Чем опасен искусственный интеллект, и стоит ли его бояться. Искусственный интеллект против человека

ЕРЕВАН, 12 февраля. Новости-Армения . Умные машины научились блефовать, обыгрывать профессионалов в шахматы или Го, переводить и распознавать человеческий голос. Каждую неделю мы узнаем о все новых подвигах компьютерных программ, уже умеющих ставить медицинские диагнозы, рисовать не хуже Рембрандта, петь или генерировать текст. Стоит ли человеку опасаться искусственного интеллекта?

По-настоящему "горячей" тема искусственного интеллекта (ИИ/AI) стала в последние несколько лет. Ученые связывают это с бурным развитием нейронных сетей (одно из направлений исследований в области искусственного интеллекта), которое, в свою очередь, стало возможным с появлением мощных компьютеров, пишет Русская служба ВВС .

"С начала 2010-х годов под влиянием впечатляющих успехов, полученных в результате применения многослойных нейронных сетей (в первую очередь сверточных и рекуррентных), эта область привлекла серьезное внимание как со стороны ученых и инженеров, так и со стороны инвесторов", - комментирует автор одной из российских шахматных программ, специалист по методам машинного обучения Сергей Марков.

Ученое сообщество может спорить о сроках появления умных машин, но сходится в одном: развитие технологий окажет безусловное влияние на общество, экономику и отношения между людьми в будущем. Уже сейчас раздаются призывы обдумать этические принципы разработки искусственного интеллекта, удостоверившись в том, что искусственный интеллект развивается в безопасном для людей направлении.

Экономический эффект и влияние на рынок труда

Научная фантастика и Голливуд сформировали представление об "искусственном интеллекте" как о следующей форме жизни на планете, которая поработит человечество в Матрице или организует ему ядерный Судный день. Выживших добьет Терминатор.

В действительности, несмотря на последние достижения в области искусственного интеллекта, до появления разумных машиносуществ еще далеко, признают ученые и специалисты. И те, и другие, впрочем, советуют на некоторые аспекты обратить внимание уже сейчас.

По оценкам исследовательской организации McKinsey Global Institute, в ближайшие десять лет новые технологии радикально изменят рынок труда на планете, что позволит сэкономить порядка 50 трлн долларов.

Изменения коснутся сотен миллионов рабочих мест. Люди все больше и больше будут перекладывать часть своих служебных заданий и многие рутинные задачи на машину, что позволит им сосредоточиться на творческой работе.

"С некоторой точки зрения у человечества в целом есть важная и интересная задача - развиваться каждому конкретному индивидууму гораздо быстрее, чем человечество развивает системы искусственного интеллекта", - считает эксперт, директор по распространению технологий "Яндекса" Григорий Бакунов.

Но вместе с автоматизацией неминуемо пострадают менее квалифицированные кадры, и уже сейчас необходимо задуматься, как их защитить, переучить и подготовить к новой жизни.

Пострадать, как показывает практика, могут не только синие воротнички, но и работники умственного труда. Несколько дней назад Goldman Sachs заменил команду из 600 трейдеров на двух человек и автоматизированные программы алгоритмического трейдинга, для обслуживания которых были наняты 200 разработчиков-программистов.

Искусственный интеллект сам по себе не тождественен автоматизации процессов, но развитие ИИ приведет к тому, что все больше задач будет по силам компьютерной программе.

Среди вариантов решения проблемы вытеснения человека машиной на рынке труда, как указывает Аллисон Дютман, координатор программ Foresight Institute - некоммерческой организации, базирующейся в Силиконовой долине для продвижения новых технологий, - введение понятия "универсальный базовый доход", который бы получал каждый житель вне зависимости от уровня дохода и занятости. Подобный доход финансировался бы за счет так называемого инновационного налога Land Value Tax, введение которого сейчас активно обсуждается в Силиконовой долине.

Личность ли искусственный интеллект?

Является ли роботизированная система личностью? Может ли умный компьютер голосовать? Какого он пола? Отношения человека и умной машины уже сейчас обсуждают депутаты Европарламента, задаваясь вопросом, следует ли наделять будущих роботом статусом "электронной личности".

Как указывает Дютман, люди нехотя делятся правами с теми, кто им непонятен, а значит будут сопротивляться "очеловечиванию" ИИ.

Принимая во внимание, как долго человечество шло к тому, чтобы наделить равными правами всех людей, вне зависимости от цвета их кожи, расы или гендера, можно уже сейчас предположить, что и машины они не сходу не признают равными.Вместе с этическими появляются и юридические тонкости: кто возьмет на себя ответственность в случае аварии беспилотного автомобиля или поломки умного медицинского устройства - и нравственные вопросы: стоит ли развивать беспилотное оружие, способное действовать без ведома человека?

Третья этическая головоломка обсуждается чаще других и волнует человечество гораздо больше: что теоретически может сделать с человечеством суперинтеллект, настоящая умная машина?

Научить ИИ этике

Специалисты области развития ИИ признают: пусть не в ближайшие 20-30 лет, но человечество все же доживет до появления настоящего искусственного интеллекта, который будет умнее своего создателя.

"Последний бастион будет взят тогда, когда будет создан так называемый "сильный ИИ" (Strong AI, Artificial General Intelligence), то есть такой ИИ, который будет способен решать неопределенно широкий спектр интеллектуальных задач", - говорит Сергей Марков.

А главное, такой ИИ сможет самостоятельно думать.

Исследованием угроз, которые таит ИИ, а также этическими проблемами, связанными с новыми технологиями, занимаются многие институты, в числе которых организация Future of Life Institute (Институт будущего жизни), Foresight Institute, Future of Humanity Institute, OpenAI и другие.

Решение Аллисон Дютман из Foresight Institute - дать компьютеру прочитать всю научную литературу, научные статьи, поднимающие вопрос об этике, и сделать эту информацию основой для его будущих решений.

Что такое Нейронные сети и какое у них будущее?

Большинство экспертов связывают прогресс в развитии ИИ с развитием нейронных сетей.Нейронные сети - это одно из направлений исследований в области искусственного интеллекта, основанное на моделировании биологических процессов, которые происходят в человеческом мозгу.

Именно им мы обязаны появлению впечатляющих результатов в распознавании речи и изображений, постановке медицинских диагнозов, переводе текста и создании изображений, генерации речи и музыкальной композиции.

На сегодня, как признают специалисты, нейронные сети признаны одним из лучших алгоритмов машинного обучения, а решения на их основе показывают на данный момент самые выдающиеся результаты.

И это несмотря на то, что современные нейронные сети устроены в полторы тысячи раз проще, чем головной мозг крысы.

"Пока что создаваемые нами нейронные сети относительно невелики по сравнению, скажем, с нейронной сетью человеческого мозга и, кроме того, они представляют собой весьма упрощенный аналог естественных нейронных сетей. Поэтому пока что при помощи нейронных сетей мы решаем в основном сугубо прикладные задачи", - рассказывает Сергей Марков.

Сейчас создаются специализированные процессоры для обучения таких сетей (так называемые нейроморфические процессоры), которые позволят увеличить скорость вычислений на несколько порядков.

Разработчики не просто заняты сейчас увеличением количества нейронов в сети, но и изменением конструкции сетей. "Сложные системы конфигурации сетей - то, с чем сейчас производитсягх наибольшее число экспериментов", - рассказывает Григорий Бакунов.

А тот факт, что такие системы стали сравнительно доступными большому числу рядовых разработчиков, привел к появлению стартапов, экспериментирующих с нейронными сетями, например Prisma (приложение позволяет обрабатывать фотографии, превращая их в стилизации картин известных художников) и Mubert (онлайн-композитор электронной музыки).

Что нас ждет в ближайшее время

Как прогнозирует профессор Университетского колледжа Лондона и Principal Scientist Nokia Bell Labs Ник Лейн, человека будут окружать еще больше "умных вещей". Они станут компактнее и эффективнее.

Профессор приводит такой пример: если раньше встроенный в стену сенсор мог лишь осознавать, что кто-то прошел мимо, то в будущем он будет не только знать, кто конкретно прошел, но и как ведет себя человек, не нуждается ли в чем, не представляет ли он угрозу для себя или окружающих.

Сенсор размером с пуговицу сможет оповещать человека в случае опасности.

С профессором согласен Григорий Бакунов из "Яндекса": "В ближайшее время нас ждет бум развития узких искусственных интеллектов, которые помогают решать какую-то одну довольно простую задачу, но которую они будут решать даже лучше, чем человек".

"Наиболее вероятным путем развития нашей цивилизации является путь синтеза человека и машины: палка, одежда, автомобиль, мобильный телефон, кардиостимулятор или кохлеарный имплантат - по мере развития наши инструменты все более и более напоминают продолжение наших тел. Уже завтра машины смогут получать от человека мысленные команды, воспринимать мысленно формируемые визуальные образы, передавать информацию непосредственно в мозг - такие проекты уже сейчас существуют за стенами наиболее продвинутых технологических лабораторий", - подытоживает Сергей Марков.

Журналисты пока еще нужны?

Газета Financial Times в прошлом году провела довольно рискованный эксперимент, одновременно поставив задачу написать текст своему профильному корреспонденту и умной программе по имени Эмма. Обе статьи затем должен был прочитать редактор Financial Times и угадать, за какой из двух заметок стоит журналист, а за какой компьютер.

Перед этим своеобразным "краш-тестом" корреспондент Financial Times признавалась: "Я думаю, программа точно справится с задачей быстрее меня. Но, надеюсь, я все-таки сделаю это лучше".

Так и случилось: Эмма действительно оказалась быстрее - программа сгенерировала текст на основе статистики об уровне безработицы в Британии за 12 минут. Журналистке потребовалось 35 минут. И, как она сама впоследствии признавалась, Эмма превзошла ее ожидания. Программа не только умело обращалась с фактами, но и поставила новость в контекст, предположив, как возможный "брексит" (дело было в мае 2016 года, до референдума о выходе Британии из ЕС) может изменить ситуацию.

Но кое-что Эмма сделала все же хуже журналистки. "Статья Эммы была написана немного более корявым языком. Но главное, в ней было очень много цифр, - признавался редактор FT. - А, пожалуй, главное, что мы тут пытаемся делать, так это выбирать только действительно важные цифры".

Эмма - продукт стартапа Stealth. В компании говорят, что у Эммы есть команда живых помощников, но утверждают, что все, что она пишет или делает, - продукт исключительно ее "мозгов".

И все-таки - надо ли бояться ИИ?

Многие, если не все специалисты, задействованные на сегодняшний день в разработке систем искусственного интеллекта, охотно признают, что ИИ не скоро сделает людей ненужными. Именно потому, что искусственный интеллект еще не настолько умен.

Главное, чего ему на сегодняшний день не хватает, - автономной возможности думать. "Сейчас бояться ИИ ни в каком виде не стоит. Можно подождать лет 30-40, пока действительно какие-то радикальные изменения произойдут", - считает Бакунов. Но кое-что уже происходит: понемногу стирается грань между работой или задачей, выполненной человеком, и задачей, выполненной машиной. Как объясняют специалисты, уже сейчас порой бывает сложно понять, кто сидит внутри системы - человек или машина.

"Нет критериев, когда мы сможем понять, что внутри машины зародилось сознание", - задается вопросом Бакунов.

Человек станет скрепкой?

Известный адепт алармистской точки зрения, в рамках которой ужасы, описанные в Терминаторе, могут стать реальностью, - философ Ник Бостром - придерживается мнения, что достигший интеллектуального уровня человека ИИ способен будет уничтожить человечество.

Бостром объясняет на примере скрепок: вы ставите перед искусственным интеллектом задачу делать скрепки, как можно больше и лучше. ИИ в какой-то момент понимает, что человек представляет угрозу, потому что может выключить компьютер, что будет противоречить задаче делать как можно больше скрепок. В случае, если человек не представляет угрозу, ИИ решает, что человеческие тела состоят из атомов, которые можно использовать для производства отличных скрепок. Итог - компьютер изведет человечество на скрепки.

Такой сценарий многим кажется преувеличением. По мнению Сергея Маркова, например, "высокая эффективность выполнения нелепой цели несовместима с нелепостью этой цели - грубо говоря, ИИ, способный переделать весь мир в скрепки, будет неизбежно достаточно умен для того, чтобы отказаться от такой цели".

Искусственный интеллект как золотая рыбка

Британский специалист в области искусственного интеллекта, профессор когнитивной науки в Университете Сассекса Маргарет Боден относится к утверждениям о скором пришествии умных машин скептически.

Профессор приводит пример "золотой рыбки", когда в обмен на свободу рыбак загадывает три желания. Одно из желаний - вернуть сына с войны, второе - 50 тысяч долларов и третье - возможность наутро загадать еще одно желание. В тот же вечер в дом рыбака постучали. Сына вернули с войны - в гробу. Рыбак получил страховку в 50 тысяч долларов.

"Замените в этой притче рыбку на ИИ, и все станет ясно - объясняет Боден. - Ах, да, на следующий день рыбак воспользовался третьим желанием и - отменил предыдущие два".

Возможен ли перенос сознания в машину?

"Если говорить о возможности полного переноса сознания, то современными предшественниками такой технологии будущего являются проекты, подобные Blue Brain, направленные на создание действующих электронных аналогов мозга, а также проекты, направленные на создание интерфейсов мозг-машина (BCI) - аппараты для протезирования потерянного зрения, слуха, замены утраченных конечностей, даже частей мозга.

Очень интересным и перспективным направлением является оптогенетика (в принципе для сопряжения мозга и машины можно менять не только машины, но и саму нервную ткань, создавая в ней искусственные фоторецепторы).

Когда будет решен широкий спектр инженерных задач в рамках таких частных проектов, думаю, что задача переноса сознания станет вполне разрешимой. Уже сейчас мечтатели предлагают гипотетические схемы для осуществления подобного проекта.

Например, Ян Корчмарюк, предложивший в свое время название "сеттлеретика" для направления исследований, связанных с переносом сознания, считает, что наиболее перспективной схемой является использование специализированных нанороботов, внедряемых в нейроны человеческого мозга. Впрочем, для успешного воплощения подобной схемы необходимо решить целый ряд сложных инженерных проблем", - говорит Сергей Марков. -0-

Крамник получит за участие в матче 500 тысяч долларов, а в случае победы эта сумма удвоится. Рискуют организаторы не сильно – за последнее время успехи ведущих шахматистов в борьбе с программами невелики. Началось победное шествие искусственного интеллекта со скандального матча 1997 года, в котором Гарри Каспаров проиграл со счетом 2,5:3,5 компьютеру Deep Blue, после чего обвинил команду разработчиков во вмешательстве в работу машины.

В 2003 году состоялось целых два матча Каспарова с программами – против Deep Junior и Deep Fritz, но оба завершились вничью – реванша так и не последовало. Дальше было только хуже.

В октябре 2004 года на матче "Люди против компьютеров" команда последних – Fritz, Hydra и Junior – нанесла болезненное поражение не самым слабым гроссмейстерам – Карякину, Пономареву и Топалову – со счетом 6:3, причем в девяти партиях людям удалось одержать лишь одну победу (Junior пал жертвой Сергея Карякина). Наконец, в июне 2005 года Hydra учинила подлинный разгром Майклу Адамсу – 5,5:0,5!

Год назад, 23 ноября, в испанском городе Бильбао с неутешительным для представителей человечества результатом завершился второй в истории шахмат турнир между сборными командами людей и компьютеров. Общий счет противостояния, проходившего в четыре тура, - 8:4 не в пользу людей. Три чемпиона мира по версии Международной шахматной федерации (ФИДЕ) состязались с компьютерными программами Fritz, Junior и Hydra. Россиянин Александр Халифман (чемпион 1999 года), украинец Руслан Пономарев (2003) и узбек Рустам Касымджанов (2004) на троих в 12 сыгранных поединках добыли всего одну победу при пяти поражениях и шести ничьих.

У самого Крамника также был опыт встречи с компьютером – в 2002 году в Бахрейне он сыграл со своим нынешним соперником Deep Fritz, точнее с его седьмой версией. Матч состоял из восьми партий. После первой половины Крамник вел в счете 3:1, однако в итоге все вновь свелось к ничьей 4:4. В шестой партии того матча чемпион мира пошел на вариант с жертвой коня, то есть решил посостязаться с машиной в чистом счете, что, разумеется, закончилось в пользу Deep Fritz.

Создателями программного пакета для Deep Fritz являются программисты компании Chessbase голландец Франц Морш и немец Матиас Файст, которые в 1991 году впервые выпустили программу Fritz 1. В 1993 году она приняла участие в турнире по быстрым шахматам среди людей и заняла там первое место, обыграв по ходу дела самого Каспарова. В 1995 году Fritz победил на чемпионате мира среди программ, победив суперкомпьютер Deep Blue. Видимо, уже тогда у создателей программы зародилась мечта о приставке Deep – началось все в свое время с программы Deep Thought ("Глубокая мысль"), продолжилось "темно-синей" Deep Blue, после чего слово стало нарицательным, породив такие малоосмысленные сочетания, как "Глубокий Фриц" или "Глубокий юниор".

В отличие от поверженной в 1995 году Deep Blue, представлявшей собой специально созданную машину, "Фриц" всегда работал на обычном "железе". В частности, версия, которой предстоит "скрестить шпаги" с Крамником, работает на четырехпроцессорных машинах с процессором Intel с тактовой частотой 500 мегагерц и просчитывает до миллиона позиций в секунду.

Никаких экспериментов, подобных тем, что были в матче Гарри Каспарова с X3D-версией Fritz в Нью-Йорке в 2003 году, когда 13-й чемпион мира играл в стереоскопических очках на виртуальной трехмерной доске, Крамник над собой проводить не будет. Напротив Владимира Крамника за шахматной доской будет сидеть не классического вида металлический робот, а обычный человек – оператор ЭВМ, который будет выполнять ходы, подсказанные ему машиной.

Правилами предусмотрено, что дебютная библиотека компьютера не должна меняться в течение матча, за исключением возможности расширить перед каждой следующей партией на десять полуходов встретившийся в предыдущей партии вариант, а также объявить какое-либо из уже имеющихся в библиотеке продолжений приоритетным для программы.

В тот момент, когда компьютер будет играть "по книге", Крамнику на специальном мониторе будет виден процесс выбора машины и статистика достижений белых и черных в том или ином возможном варианте, и только когда Fritz начнет считать самостоятельно, этот монитор будет выключен. После игры компьютеру будет предложено "повторить" дебютный вариант, и если произойдут отклонения от хода игры, которые команда программистов не сможет удовлетворительно объяснить арбитру, последний может засчитать машине поражение в партии.

Матч будет состоять из шести партий (предыдущий поединок Крамника с Fritz в 2002 году в Бахрейне состоял из восьми, а Каспарова с Fritz в 2003 году в Нью-Йорке – из четырех), которые будут играться с перерывом в один день. Победителем будет объявлен тот, кто первым наберет более трех очков. Первая партия пройдет 25 ноября, вторая – 27 ноября, третья - 29 ноября, четвертая – 1 декабря, пятая и шестая, если они понадобятся – 3 и 5 декабря соответственно.

Владимир Крамник оценивает свои шансы осторожно. "Крайне трудно играть против такого счетного монстра, ведь с начала партии ты ходишь по узкой тропинке, где малейшая невнимательность приведет к поражению", - отметил чемпион мира. При этом Крамник считается многими экспертами одним из наиболее "неудобных" соперников для компьютера, так как его стиль игры, основанный на недоступном машинам понимании стратегических нюансов, очень хорошо подходит для борьбы с "бездушными железяками".

Компьютеры компенсируют отсутствие понимания простым расчетом огромного количества позиций, так что нам остается только заинтересованно следить, выйдет ли Владимир Крамник победителем из этого, как он сам выразился, "научного эксперимента", или еще ближе к истине окажутся слова голландского гроссмейстера Яна Доннера, который на вопрос "с помощью чего можно победить компьютер?" ответил: "С помощью кувалды".

Другого мнения придерживается тринадцатый чемпион мира Гарри Каспаров. Еще в конце 2003 года в интервью "Коммерсанту" он отверг возможность того, что в ближайшее время игра в шахматы человек - компьютер потеряет всякий смысл из-за преимущества машины.

"В Америке после моего матча с X3D Fritz увидели: борьба человека с машиной только началась! Ясно, что на сей раз ее спасла только "плавающая" доска – экстремальные условия, в которых находился человек. Посмотрите общий итог десяти моих партий с компьютером, сыгранных в нынешнем году. Из десяти партий машина "стояла" лучше в одной. А я играл, между прочим, с двумя лучшими программами, - отметил Каспаров. Во многих партиях имел большой перевес. И не победил во встречах именно из-за грубых ошибок. Принципиальное значение этих матчей следует сформулировать так: все пока решают очевидные ошибки человека. Ни о каком перевесе машины говорить нельзя. Наоборот, значительный игровой перевес в этих двух моих матчах, да и в матче Владимира Крамника с Deep Fritz в 2002 году, был на стороне человека".

По словам Каспарова, после его поражения от Deep Blue в 1887 году возник миф о том, что с компьютером играть бесполезно, но на самом деле это далеко не так. "Идея о том, что противоборство завершилось победой машины, ушла из общественного сознания. Идут реальные матчи, в которых преимущество на стороне людей. Нет уже демонизации компьютеров. Мы обнаруживаем, что машина не то что уязвима, она сильно уязвима. Главное – понять алгоритм ее мышления, и тогда ей горе. В любом случае ясно, что такие матчи необходимы", - сказал гроссмейстер.

По материалам Lenta.ru , Kommersant.ru , NEWSru .

Официальный сайт Владимира Крамника www.kramnik.com/

Незадолго до начала матча Владимир Крамник сообщил, что нынешний компьютер вдвое мощнее и гораздо сильнее, чем тот, с которым ему довелось играть в Бахрейне. На вопрос, в какую силу он играет, если пользоваться человеческими мерками, Крамник ответил, что выше рейтинга "2800" - это точно, но играет ли на уровень "2900" или "3200", он пока не знает: это может показать только матч.

До этого Крамник изучал программу непрерывно в течение двух недель. И даже заставлял играть с предыдущей версией, чтобы убедиться, что новая сильней на голову. За две недели работы чемпион среди людей узнал все или почти все о своем силиконовом партнере.

Первая партия матча закончилась вничью.

Во второй партии на 35-м ходу Владимир Крамник "зевнул" мат в один ход и счет стал 1,5:0,5 в пользу Deep Fritz.

Александр Рошаль поделился любопытной подробностью второй партии матча: "Оператор Маттиас Файст, который за столиком делает ходы за машину, - типичный немец, немногословен, но кое-что удалось из него вытянуть. Машина после каждого хода выдает систему оценок. До 33-го хода программа отдавала предпочтение сопернику с коэффициентом 0,5-0,6. Файст признался, что после 30-го хода преимущество Крамника машина оценивала в 0,7".

Говорят, после ошибочного хода в Боннском музее изобразительных искусств, где проходил матч, в зрительном зале раздался протяжный стон.

У Крамника спросили после игры, чем он может объяснить свой нелепый промах. Он развел руками...

Третья, четвертая и пятая партии завершились вничью. В шестой - Deep Fritz снова выиграл.

Таким образом, матч закончился со счетом 4:2 в пользу искусственного интеллекта.

Фредерик Фридель является владельцем новой версии программы "Фриц" и самой известной у квалифицированных шахматистов информационной системы Chess Base. Во время банкета перед открытием матча он ответил на несколько вопросов.

Вы кормите большинство шахматных профессионалов, снабжая их базой данных, и за счет этого кормитесь сами. Но, с другой стороны, вы один из тех, кто медленно, но верно убивает шахматы. То есть, вы пилите сук, на котором сидите?

Это не так. Мы не убиваем шахматы. Мы меняем шахматы. Мы даем им другую жизнь. Например, какой-то вариант нравится шахматисту, но он боится его применять. Он должен две недели его анализировать. А сейчас с помощью "Фрица" вы можете это сделать за два часа. Посмотрите на игроков, которые ничего, кроме "Фрица", не знают. Например, я назову Магнуса Карлсена. У него абсолютно новый стиль. Он ничего не боится! И многие другие тоже, потому что они анализируют и говорят: "О"кей, здесь я могу играть!" Предположим, теория, которая существовала сто лет, говорит: эту пешку брать нельзя, там у черных плохо. Но "Фриц" говорит: "О"кей! Покажи мне, как ты можешь выиграть у меня, если я заберу твою пешку". И вдруг обнаруживается, что сто лет до этого шахматисты могли выиграть, отдавая эту пешку, а сейчас они выиграть не могут у "Фрица".

- То есть вы не убиваете шахматы, а даете им другую жизнь…

Более интересную, более смелую.

По материалам

Матч проигран: компьютер против человека.

Креативное мышление, логика, опыт – качества, которые позволяли человеку лидировать в схватке «человек-машина». Казалось, эти преимущества всегда будут секретным оружием человека, и компьютер будет выполнять роль «догоняющего».

Но потребовалось совсем немного времени, чтобы искусственный интеллект догнал и навсегда превзошел человека во многих сферах, в том числе и в сфере интеллектуальных развлечений.

Искусственный интеллект обыграл человека: где и как

Кубик Рубика
Эта головоломка известна по всему миру. Миллионы людей стараются выполнить задание и собрать правильно кубик, а некоторые даже соревнуются в скорости сборки. Рекорд среди людей показал 14-летний Лукас Эттер из США, который разбирается с головоломкой за 4,904 секунды. Невероятно, не правда ли? Но этот результат удалось превзойти роботу, который создали два энтузиаста Джей Флэтлэнд и Пол Роуз: результат робота 1,047 сек.

Благодаря встроенным камерам, а их четыре, компьютер оценивает положение, и подбирает лучший алгоритм действий. В основе системы лежит формула Коцебы (сборка за 20 ходов). Едва ли кто-то из людей сможет собрать кубик Рубика быстрее, чем за 1 секунду.
0:1 в пользу искусственного разума.

«Отелло»
Пик популярности этой игры приходится на начало 70-х годов прошлого века. Суть игры заключается в размещении на игровом поле (8×8 клеток) фишек: необходимо фишками своего цвета перекрыть с двух сторон ряды фишек соперника, тогда фишки меняют цвет и переходят к оппоненту. Победа достается тому, кто занял большую площадь.

В 1980 году чемпионом мира по «Отелло» был Хироси Иноуе, и он с легкостью победил программу Moor со счетом 5:1.
Позже программы научились просчитывать ходы соперника (примерно на 25 ходов), и когда в 1997 году действующий чемпион мира Такеси Мураками сошелся в матче-реванше с системой Logistello, счет был сокрушительным 0:6 в пользу ПО.

Нарды
Своему преимуществу в нардах над человеком искусственный интеллект обязан чемпиону мира по шахматам по переписке (и такие есть) Хансу Берлинеру, который написал программу BKG 9.8. И в 1979 году программа оказалась сильнее чемпиона мира по игре в нарды Луиджи Виллу.

Считается, что в той партии компьютеру повезло (несколько раз выпадали хорошие кости), однако сразиться в повторном матче-реванше так никто больше не захотел, тем более что с того времени ПО было неоднократно усовершенствовано.

Шахматы
Шахматные системы начали разрабатывать еще в середине ХХ века, разработки принадлежали компании IBM. Но из-за того, что программа требовала серьезных и длительных расчетов эту затею пришлось отложить на 30 лет. В 1996 году против Гарри Каспарова был выставлен «шахматный мозг» — компьютер Deep Blue.

Матч закончился в пользу человека: 3 победы, 2 ничьи, 1 проигрыш. Спустя год матч повторили, и в этот раз Deep Blue оказался более подготовленным. Еще бы, система оценивала 200 млн. позиций в секунду. И хотя Гарри хотел позже отыграться, в IBM отказались, считая это бессмысленным.

Чекерс (разновидность шашек)
Марион Тинсли был чемпионом чекерс на протяжении всей карьеры. И когда в 1992 году он встретился с системой, разработанной в Альбертском университете (Канада), победа осталась за ним. Из 39 партий — 4 победы, 2 проигрыша и 33 ничьи.

Спустя 2 года состоялся реванш, но Тинсли снялся с соревнования из-за проблем со здоровьем (на момент отказа было 6 ничейных партий), и победа досталась системе. С того момента, искусственный интеллект стал намного сильнее: в 2007 году канадцы объявили о создании идеальной системы, и уже никто из людей не пытается превзойти его в чекерс.

Скрэббл
Триумф компьютеру в этой игре дался легко и в первом же туре: чемпион мира Дэвид Бойс был обыгран в 2006 году робо-соперником Quackle.

Кстати, эта программа доступна в Сети, и вы можете с ней помериться силами, и может вы принесете победу команде «Человек».

Го
Эта игра появилась в Древнем Китае больше двух тысяч лет назад, но, несмотря на такой продолжительный опыт в игре, человек все равно уступил. На площадке (19×19) два игрока располагают свои камни (черные/белые), кто наберет больше очков (считаются фишки составленные в линию), тот и победил. С одной стороны все просто, но интерес кроется в многообразии возможных вариантов и ходов.

Интересно было и разработчикам AlphaGo (создавалась под эгидой Google) — создать систему, которая способна просчитать тысячи вариантов. Сначала искусственный интеллект опробовал свои силы с другими ПО, и когда из 500 партий 499 были за AlphaGo, он взялся за трехкратного чемпиона Европы Фань Хуэя. У чемпиона не было шансов: 5:0.

TV
Любите отвечать на вопросы в телевикторинах? Разработчики робота Watson от компании IBM тоже не смогли удержаться, и в 2011 году Watson выступил в качестве участника интеллектуальной телевикторины «Jeopardy!». Несмотря на то, что его оппонентами были рекордсмены шоу — Брэд Руттер и Кен Дженнингс – победа досталась , а выигранный миллион долларов передан на благотворительность.

И хотя компьютер уже показал свое интеллектуальное и логическое превосходство над человеком, он продолжает развиваться. Так компания Alibaba Group и Microsoft (разработки велись параллельно) представили искусственный интеллект, который оказался сильнее человека в понимании прочитанной информации.
Тест Стэнфордского университета это больше 100 тысяч вопросов, которые основываются на пяти сотнях статей из библиотеки Википедии.

Лучший показатель у человека 82,304 балла, итог Alibaba – 82,44, нейронная сеть Microsoft – 82,605. результаты свидетельствуют о том, что искусственный разум способен с высокой точностью отвечать на любые вопросы, а значит, технологии могут быть использованы для обслуживания клиентов, пациентов, посетителей музеев и т.п.

Компьютерные игры также были покорены программой. Программа победила программу: кто бы мог подумать, что это будущее так близко? Популярная игра Quake III, где игроки – гладиаторы, очень популярна в киберспорте. Но лучшими здесь оказались не люди, а команда ботов DeepMind, созданная подразделением Google. И хотя бой проводился в урезанном варианте, по подсчетам с 73 % вариантностью бот победил бы в любом состязании.

Опасно или нет такое превосходство искусственного разума? Никто не может ответить точно. Да и в конечном счете не этот ответ будет ключевым, ведь главным остается не тот факт, что человек уступает компьютеру, а сможем ли мы использовать этот потенциал на собственное благо. Как мы видим искусственный интеллект обыгрывает человека и не оставляет никаких шансов на победу.

Искусственный интеллект (ИИ) - тема, которая уже давно не сходит со страниц научно-популярных журналов и постоянно затрагивается в кино и книгах. Чем больше специалисты развивают эту область науки, тем большими мифами она покрывается.

Развитие и будущее искусственного интеллекта волнует и тех, кто стоит у руля государства. Не так давно президент РФ Владимир Путин посетил офис «Яндекса» в день 20-летия компании, где ему объяснили, когда ИИ превзойдет человеческий интеллект.

Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, понимают, что оставлять без внимания эту тему нельзя. Это не только важный вопрос для обсуждения, но и, наверное, один из самых значимых в контексте будущего.

Что такое искусственный интеллект и чего на самом деле боятся люди, рассказал «Снег. TV» специалист по методам машинного обучения Сергей Марков.

Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ уже вовсю реальность: калькуляторы, Siri, самоуправляемые автомобили и т. д., а в него все равно не верят. Почему так происходит, что люди отрицают существование ИИ?

Главным образом по причине терминологической путаницы, так как разные люди вкладывают в понятие «искусственный интеллект» совершенно разный смысл.

В науке искусственным интеллектом называют систему, предназначенную для автоматизации решения интеллектуальных задач. В свою очередь, под «интеллектуальной задачей» понимают такую задачу, которую люди решают при помощи своего, естественного интеллекта.

Легко заметить, что такое определение искусственного интеллекта чрезвычайно широко - под него попадает даже обычный калькулятор, т. к. арифметические задачи по сути тоже интеллектуальные, человек решает их при помощи своего интеллекта.

Поэтому внутри понятия «искусственный интеллект» была проведена важная граница, отличающая прикладной или, как еще говорят, слабый искусственный интеллект, предназначенный для решения какой-либо одной интеллектуальной задачи или небольшого их множества, от гипотетического сильного ИИ, также называемого универсальным искусственным интеллектом (англ. - artificial general intelligence).

Такая система, когда она будет создана, будет способна решать неограниченно широкий круг интеллектуальных задач, подобно интеллекту человека. С этой точки зрения калькулятор, который способен считать куда быстрее человека, или программа, выигрывающая у человека в шахматы, - это прикладной ИИ, гипотетический же сверхразум будущего - сильный ИИ.

Когда читаешь про разные открытия и разработки в области ИИ, понимаешь, что всё в основном происходит в США или Азии. А как обстоят дела в России? Есть у нас какие-то наработки?

Область компьютерных наук в наши дни интернациональна, многие наши специалисты работают над созданием и совершенствованием различных моделей машинного обучения в составе как российских, так и международных команд. У нас традиционно сильная математическая и алгоритмическая школа, созданы исследовательские центры мирового уровня как в ведущих вузах, так и в некоторых частных компаниях.

Но давайте говорить начистоту - бюджеты, выделяемые в нашей стране на науку и образование, не идут ни в какое сравнение с научными бюджетами наиболее развитых стран. Доходы бюджета РФ в 2016 году составили около 200 миллиардов долларов США, в то время, как только на оборону США тратят сумму в три раза большую, чем весь российский бюджет.

Весь бюджет российской науки сопоставим с бюджетом одного лишь вуза из Лиги плюща. В безденежные 90-е страну покинули многие ведущие специалисты, была нарушена преемственность ряда научных школ. Также было практически утрачено собственное производство электроники.

В то время как мировые лидеры ИТ ведут гонку в создании специализированных процессоров для обучения нейронных сетей, нам остается лишь сфера разработки алгоритмов и программного обеспечения. Впрочем, и в этой области нами были достигнуты весьма впечатляющие успехи.

Например, команда под руководством Артема Оганова создала систему USPEX, способную предсказывать кристаллические структуры химических соединений, что привело к настоящей революции в современной химии.

Команда Владимира Махнычева и Виктора Захарова с ВМК МГУ при помощи созданной ими системы, а также суперкомпьютеров «Ломоносов» и IBM Blue Gene/P впервые смогла рассчитать 7-фигурные шахматные окончания.

Нейронные сети «Яндекса» распознают и синтезируют речь, генерируют музыку в стиле «Гражданской обороны» и композитора Скрябина. Сильная команда специалистов по ИИ и машинному обучению создана и в Сбербанке.

Словом, заметные успехи есть и у нас в стране.

Чем быстрее развиваются технологии искусственного интеллекта, тем сильнее людей захватывает опасение - как быстро они останутся без работы. Все действительно так плохо?

И да и нет. Человечество уже несколько раз сталкивалось с возникновением технологий, революционно изменивших всю производственную сферу.

Так было с паровым двигателем в эпоху промышленной революции, практически уничтожившим многие профессии (в основном связанные с примитивным физическим трудом), так было с электронными вычислительными машинами, которые заменили человека в задачах, основанных на поточных математических расчетах.

В XV-XVIII веках, когда в Англии «овцы съели людей», социальные последствия были действительно катастрофическими. Англия потеряла, по разным оценкам, от 7 до 30% своего населения. Властная элита того времени была всерьез озабочена тем, куда девать лишних людей. Джонатан Свифт откликнулся на эти искания юмористическим памфлетом, в котором предлагал употреблять детей бедняков в пищу.

Однако в наши дни мы видим, что на смену вымершим профессиям пришли новые, и население Земли куда больше, чем в XVIII веке. В XX веке последствия автоматизации были уже не столь катастрофичны с социальной точки зрения. Однако недооценивать опасность все-таки не стоит.

«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, - такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). - Это приведет к тому, что более 50% жителей Земли станут безработными».

Роботы забирают работы

На днях председатель комитета Госдумы по информационной политике, информационным технологиям и связи Леонид Левин заявил, что для России является важной проблема вытеснения рабочей силы искусственным интеллектом.

Рано или поздно людей заменят автоматизированной системой, и на рынок выплеснется 2% работоспособного населения страны. Именно поэтому о том, как трудоустроить тех, кто потеряет работу вследствие развития цифровых технологий, нужно думать уже сейчас, сказал Левин.

По мнению председателя, уже в скором будущем мы столкнемся с ростом безработицы. Но действительно ли роботы «отберут» наши рабочие места и стоит ли беспокоиться по этому поводу, рассказал «Снег.TV» специалист по машинному обучению Сергей Марков.

Сергей, даже сейчас уже есть «мертвые профессии», которые не требуют человеческого труда, хотя, казалось бы, лет 10 назад никто и не думал, что, например, кондуктора скоро станут ненужными. А какие еще профессии вытеснят технологии?

Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле. Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? – сказал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди при Университете Райса.

Долгое время на пути автоматизации стояли технологические ограничения: машины не могли распознавать образы и речь, не могли говорить, не могли достаточно хорошо понимать смысл высказываний на естественном языке, не имели достаточно данных для того, чтобы научиться многим привычным для человека вещам.

Благодаря последним достижениям в сфере искусственного интеллекта многие из этих ограничений фактически оказались сняты. Кроме того, многие профессии сами претерпели трансформацию, что сделало их более удобными для автоматизации.

Например, современный офисный клерк ведет переписку не в бумажном, а в электронном виде, бухгалтер выполняет проводки не на бумаге, а в бухгалтерской программе, оператор станка управляет станком зачастую не при помощи рукоятей, а при помощи управляющей программы. Поэтому сейчас задача автоматизации во многих профессиях перестала быть научной и стала чисто инженерной.

Правда, пока что производственная сфера, связанная с ИИ, скорее создает рабочие места - нужны специалисты в области машинного обучения и подготовки данных, сотрудники для разметки обучающих массивов, специалисты по внедрению и т. д. Но в какой-то момент «электроовцы» определенно начнут есть людей, и о последствиях нужно позаботиться уже сейчас.

При этом важно понимать, что остановить технический прогресс нельзя, и попытка это сделать обернется куда более катастрофичными последствиями.

Мы сможем когда-нибудь полностью довериться роботам (ИИ) или все-таки в любом деле должен быть человеческий фактор?

У этого вопроса есть несколько аспектов. С одной стороны, люди в прошлом с опаской относились практически к любой технике. Первый лифт, первый автомобиль, первый поезд или самолет - всё это когда-то было непривычным и многим казалось опасным. Да во многом опасным и было - техногенные катастрофы унесли немало жизней.

И тем не менее в наши дни все эти вещи стали привычными и уже не вызывают сильного страха. В этом смысле - наши потомки будут относиться к системам ИИ более спокойно. Люди порой склонны мистифицировать вещи, которые им непонятны. Дикарь думает, что в паровозе живет злой дух, а современный обыватель думает, что наши системы ИИ обладают сознанием, хотя это далеко не так.

С другой стороны, я не думаю, что универсальные системы ИИ когда-либо станут частью нашей производственной сферы. На мой взгляд, будущее скорее за синтетическими системами - то есть за объединением человека и машины в единый организм. В этом смысле искусственным интеллектом будущего будет усовершенствованный человеческий интеллект.

Кстати говоря, человеческий интеллект тоже не совсем корректно называть естественным. Ребенок от рождения не обладает интеллектом, всему его учит общество, родители, окружающая среда. В этом смысле мы с вами все, по сути дела, «искусственные интеллекты», и наши страхи, связанные с ИИ, во многом являются страхами перед самими собой.

Последнее время многие ученые, например Стивен Хокинг, Билл Гейтс или тот же Илон Маск, начали паниковать, что ИИ обрекает человечество на гибель, а будущее они видят какой-то антиутопией. Стоит ли воспринимать такие прогнозы всерьез?

Честно говоря, я бы не спешил всерьез пугаться этих заявлений. Стивен Хокинг, безусловно, не является специалистом в области ИИ, как, в общем-то, и Илон Маск.

На другой чаше весов высказывания таких людей, как, например, Эндрю Ын - американский ученый в области информатики, доцент Стэнфордского университета, исследователь робототехники и машинного обучения, ведущий специалист лаборатории искусственного интеллекта китайской корпорации Baidu.

Ын, говоря о проблеме безопасности ИИ, сравнивает ее с проблемой перенаселения Марса - конечно, мы когда-нибудь колонизируем Марс, и тогда, возможно, в какой-то момент там возникнет проблема перенаселения. Но стоит ли заниматься ей сегодня?

Марк Цукерберг также довольно скептически отнесся к заявлениям Маска. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», - заявил он.

Лично я думаю, что высказывания Маска стоит рассматривать в прагматическом ключе - Маск хочет застолбить эту тему и в идеале получить от государства средства для ее разработки.

Неужели всё так безоблачно и не о чем беспокоиться?

Реальные опасности, связанные с развитием ИИ, лежат, на мой взгляд, совсем в иной плоскости, чем об этом принято думать. Главные риски связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Риски от внедрения технологий ИИ и машинного обучения куда более прозаичны.

Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке. Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.

Вмешательство злоумышленников в работу жизненно важных систем в условиях тотальной автоматизации может повлечь опасные последствия. Чем сложнее системы, тем больше в них может быть потенциальных уязвимостей, в том числе связанных со спецификой тех или иных алгоритмов искусственного интеллекта.

Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей. Одни системы ИИ будут использоваться для контроля других. Возможно, код жизненно важных систем будет обязателен к публикации для независимого аудита. Словом, специалистам в этой сфере предстоит еще много работы.

Многие люди с энтузиазмом приветствуют искусственный интеллект, видя в этом значительный шаг развития цивилизации. Но многие специалисты проблемы выражают обеспокоенность, когда вопрос касается искусственного интеллекта.

Илон Маск, основатель Tesla и SpaceX, не скрывает обеспокоенности, подозревая ИИ в угрозе человечеству в качестве конкурирующей цивилизации машинного происхождения.

Бизнесмен не выступает в роли предсказателя, но считает плохой идеей экстремальные игры с вложением в вычислительные машины развивающегося интеллекта. Это может вызвать критически опасные риски для человечества.

Возможно и существуют какие-то способы обезопаситься от вероятных проблем со стороны искусственного интеллекта, способного по мере развития перехватить контроль над нашей жизнью. Но пока у нас нет ничего существенного, кроме как «Трех законов робототехники» А. Азимова, что однако звучит слабым утешением (3 закона, Википедия).

Маск и другие сподвижники идеи призывают не отказаться от разработок в области ИИ. Они обращают внимание на первоначальную необходимость выработать методы защиты от вероятных угроз. Иначе мы можем в лице ИИ приобрести не помощника, но ужасно опасного и сильного противника.

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ УГРОЗА ЧЕЛОВЕЧЕСТВУ.

В словах противников активного развития ИИ есть хорошая доля правды. И дело даже не в том, кто будет контролировать «завтра» потенциально цивилизованную технологию умных Машин.

Недавно , что уже ставит робота в начале формирования цивилизации машин. Но этого роботу Софии показалось недостаточным – теперь София говорит о равных правах с человеком, и хочет быть полноправным членом общества! Это очень любопытный и показательный прецедент, верно? Вот почему многие уверяют в необходимости большей осмотрительности к вопросам исследования в области искусственного интеллекта.

Перспективная технология как полагают сможет помочь продвинуться в медицинских и космических исследованиях, откроет новые возможности в других отраслях жизнедеятельности. Однако, также ИИ может быть решающим фактором в плане возможной войны. Не секрет, что уже сейчас вычислительные машины (без интеллекта) стоят на вооружении стран.

Теперь представьте, машины научились ходить, а главное думать и принимать решения … как часто у вас «зависал» компьютер или смартфон? Хорошо, что эти устройства не имеют оружия, верно?

Множество хороших возможностей можно ожидать от искусственного интеллекта, но никто не даст гарантии, что все пойдет по отвратительному сценарию, который приведет нас к Третьей мировой войне. Это сегодня мы не видим идущих по улицам роботов, поэтому вопрос рисков от ИИ выглядит эфемерным. В то же время, робот София изучает наше общество, говоря о равных правах с людьми.

Разумеется, речь не идет об известном сюжете киноленты «Терминатор», скорее уводящим от реальной основы проблем ИИ. Здесь более подходит фильм «Я, робот», где ВИКИ (искусственный машинный интеллект) смог модифицировать понимание «трех законов», и взять людей под контроль.

К счастью в фильме нашелся главный герой, уничтоживший виртуальный интеллект, возжелавший «осчастливить человеческий лагерь».