Появится ли искусственный интеллект, способный нас уничтожить?
Почему так трудно создать ИИ, похожий на человека, и в чем главная задача тех, кто его разрабатывает.
Если
человека, не связанного с изучением искусственного интеллекта
профессионально, попросить обрисовать, что это такое, он скорее всего
начнет говорить про мифический ум, равный человеческому, из которого
потом вырастет сверхразум, намеренный поместить нас в матрицу. Такой
образ формирует искусство.
В реальном ИИ
выделяют два направления — общий искусственный интеллект (ОИИ) и
узкоспециализированный (УИИ). Они друг от друга довольно сильно
отличаются.
УИИ, уже созданный и успешно функционирующий,
решает конкретные задачи. Он умеет классифицировать картинки, играть в
компьютерные и другие детерминированные игры, вроде шахмат, управлять
системами в ограниченных условиях — самолетом и автомобилем, делает
машинный перевод, распознает речь.
ОИИ, если говорить о нем
метафорически, должен как бы повторять человека — уметь обучаться,
адаптироваться к обстоятельствам и решать разные задачи. Пока он этого
не умеет, и непонятно, когда ситуация изменится. Даже задача ведения
диалога на открытые тематики для ИИ очень сложна: могут понадобиться
обращения к знанию, которое для человека очевидно, а у системы к нему
нет доступа, она не считывает эту информацию.
Над общим ИИ
инженеры работают. Правда, построить его для всего окружающего мира
сложно, поэтому ограничиваются мирами игр. Например, компания Демиса
Хассабиса DeepMind, которую выкупил Google, разрабатывает алгоритм,
который сможет играть и в шахматы, и в го, и в сёги (японская игра
шахматного типа).
Также эта команда делала алгоритм, который
сможет играть во все игры консоли Atari, причем, каких-то специфических
знаний о правилах игры не закладывалось, ИИ знал, что примерно
происходит, но правила должен был понять в процессе. И, в конечном
счете, их система научилась играть в 49 разных игр, а в 22 из них
превзошла человека.
Нужно понимать, что этот алгоритм может
обучиться играть лучше человека, но только при условии, что сыграет
гораздо больше раз, пройдет много партий и по ним научится.
Есть
принципиальные проблемы, которые пока не позволяют перейти от
специализированного ИИ к общему. Они связаны с тем, как современные
нейросетевые системы, которые наиболее эффективны и наиболее
распространены в мире, обучаются. Они как бы всегда заперты внутри
задачи и вынуждены аппроксимировать выборку — то есть на примерах ищут
их свойства, усредняют показатели, а потом повторяют, что видели. Но
встречаются, конечно, примеры вне обучающей выборки, и алгоритм не
знает, как с ними справляться.
Научился у нас алгоритм играть в
одну игру, его посадили за вторую, а он не в курсе, что с ней делать.
Человек может дойти логикой, додумать, использовать общие представления и
сконструировать на их основе новые решения. ИИ — нет.
Вторая
важная проблема — у современных алгоритмов нет рабочей памяти,
позволяющей быстро обучаться. Люди, попав в нетипичную ситуацию, сразу
же запоминают, как из нее выбраться, им не нужно несколько раз
повторять. А алгоритм будет попадать снова и снова, ошибаться и обобщать
выводы. Обычно алгоритм тренируют так — он играет в игру много раз, все
его ходы записываются, а потом вся ситуация повторяется неоднократно,
чтобы ИИ построил статистическую модель выбора действий, приводящих к
выигрышу.
Третья проблема частично связана с первыми двумя. У
нас нет нормальных способов построить целостную модель окружающего мира.
Есть языковые модели, алгоритм может выучить, в какой
последовательности слова идут друг за другом, но рассуждать на основе
этой модели он не может.
Сейчас языковые модели одна из
«горячих» тем в ИИ. Есть GPT-3, который «натренировала» компания OpenAI,
используя 175 млрд параметров. Она может продолжать тексты, эссе,
стихи, отвечать на вопросы. Если дать ей на вход некоторый текст, то она
сгенерирует продолжение, почти не отличимое от человеческой речи.
Вопрос в том, насколько это приближает нас к общему ИИ. Такой модели
можно давать решать примеры, вроде 2+2=4, 3+3=6, 2+3=5, а затем
запросить решение 5+7=, и она попытается выдать ответ. Более того, она
способна сгенерировать программу, которая это выполнит. В теории — да,
это развитие общего ИИ, на практике она начинает ошибаться в совершенно
простых вещах, где любой здравомыслящий человек сделал бы всё правильно.
В идеале при развитии ОИИ мы должны получить алгоритм, который
способен обучаться не хуже, чем человек. Человек для нас — точка
измерения прогресса. Многие исследователи считают, что раз природа уже
создала экземпляр того, что может так хорошо обучаться, нужно понять,
как это происходит и использовать информацию. Другие считают, что можно
придумать собственную модель обучения.
Что касается
потенциальной угрозы для человечества, о которой часто говорят в кино
или книгах, где роботы захватывают мир, — нет никаких оснований
полагать, что она есть. Все хранят дома кухонный нож, но не все
применяют его против соседей. Вопрос в том, какие цели мы преследуем,
программируя наш ИИ, и каким образом собираемся его контролировать.
Когда появились компьютерные вирусы, на заре интернета, многие
паниковали, что программа, способная самостоятельно размножаться,
уничтожит или захватит все компьютеры. Но оказалось, что способности
адаптации у вирусов очень слабые. Большинство из них создаются людьми, и
люди же с ними успешно борются. То же самое с искусственным
интеллектом. Вообще-то, его всегда создают так, чтобы можно было
контролировать — включать и выключать.
Мы можем ограничить
искусственный интеллект так же, как человека — лишив его свободы,
например. Давайте посмотрим на ИИ, с точки зрения продолжения эволюции
человека. Современный человек — один из этапов эволюции на земле. Он
взаимодействует со многими другими видами на планете. Муравьи вряд ли
гадают, как мы дальше будем развиваться и не помешаем ли им. Муравьям,
вероятно, всё равно. Или, будем ли мы понимать будущий ИИ также, как
клетки нашего организма понимают нас, как целостную личность?
Непонятно,
каким будет взаимодействие искусственного интеллекта будущего с
человечеством. Возможно, люди смогут объединиться с ним, стать его
частью. Может быть, у этого нового разума будут другие потребности в
энергии, может, он будет жить в другом масштабе времени. Сценариев —
огромное количество. Задача людей, занимающихся созданием ИИ —
реализовать адекватные для нас и тормозить неадекватные. У ядерных ракет
ведь тоже есть пульты управления, никто их не отпускает в свободный
полет. Когда и если мы приблизимся к точке, где что-то может выйти
из-под контроля, тогда общество и будет решать, поддерживать ли
дальнейшие исследования в области ИИ или свернуть их.
Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения.
Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.
