Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Из жизни.ру | Модераторы: Pantera; IgChad | Контакты

Пятница, 29.03.2024, 03:16
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости

Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 60
Пользователей: 59
Сейчас комментируют: 1


Новости сегодня
Сегодня материалов нет

Новости готовят...

Новостей: 27785

В архиве: 11391

Новостей: 7996

В архиве: 11931

Новостей: 3998

В архиве: 155

Новостей: 3987

В архиве: 8413

Новостей: 2784

В архиве: 4005

Новостей: 1327

В архиве: 338

Новостей: 1272

В архиве: 438

Новостей: 1035

В архиве: 17

Новостей: 948

В архиве: 6968

Новостей: 879

В архиве: 1480

Календарь

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7055]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]


08:56
Google достигла квантового превосходства. Это может обернуться глобальной катастрофой

Впервые в истории квантовый компьютер, созданный Google, решил задачу, которую не под силу решить обычному компьютеру. Хотя не все специалисты согласны с этим достижением, не возникает сомнений, что в будущем квантовые вычисления приведут к технологическому прорыву. Однако это также порождает новые непредвиденные проблемы, в том числе возможное появление опасного искусственного интеллекта. «Лента.ру» рассказывает, как квантовые технологии связаны с гипотетическим концом света.

Превосходство кванта
Ученые Google утверждают, что они создали квантовое вычислительное устройство Sycamore, скорость вычислений которого в 100 миллионов раз быстрее обычных компьютеров. То, на что у современного суперкомпьютера уйдут тысячи лет, у Sycamore займет несколько минут (200 секунд). Это свойство называется квантовым превосходством (англ. quantum supremacy), и оно дает компьютерам способность невероятно быстро решать сложные задачи, требующие учета гигантского объема данных.

Между квантовыми компьютерами, способными оперировать большими данными, и искусственным интеллектом существует прямая связь. Любая нейронная сеть ищет закономерности, что позволяет ей определить, например, что изображено на картинке. Однако для этого компьютеры вынуждены провести астрономическое количество вычислений. Ситуация осложняется с моделированием реальных природных систем, например, такой нейронной сети, как человеческий мозг. Со сложностью системы время на вычисления увеличивается экспоненциально.


К 2008 году в рамках Blue Brain Project исследователям удалось смоделировать колонку коры головного мозга крысы, состоящей из 10 тысяч нейронов. Для этого использовался суперкомпьютер Blue Gene, у которого было задействовано более восьми тысяч процессоров. В 2011 году удалось смоделировать сеть из ста неокортикальных колонок с общим числом в миллион нейронов. Однако человеческий мозг состоит из сотен миллионов клеток, которые связаны между собой синапсами. Квантовое превосходство в теории дает возможность смоделировать и его, и более сложные системы, например, суперинтеллект.

Умнее людей

Согласно определению оксфордского философа Ника Бострома (Nick Bostrom), суперинтеллектом называют такую разновидность искусственного интеллекта, который «умнее» человека практически в любой сфере деятельности. Появление суперинтеллекта неизбежно влечет за собой риск, который заранее пытаются просчитать математики, философы и ученые, занимающиеся разработкой ИИ и других технологий. Например, сотрудники Центра по изучению экзистенциального риска при Кембриджском университете, консультантом которого является основатель SpaceX Илон Маск, в 2015 году подписали открытое письмо, призывающее ученых сделать все возможное, чтобы не создать то, что люди не смогут контролировать.

В 2015 году в журнале Nature появилась статья о создании глубокой Q-сети компанией DeepMind, принадлежащей Google. Этот искусственный агент способен учиться играть в игры (и выигрывать), получая в качестве входных данных лишь пиксели и количество очков. Иными словами, он обучается без нужды в человеке, указывающего на правильные и неверные решения. Более того, глубокая Q-сеть превзошла все другие алгоритмы и достигла уровня профессионального геймера в 49 играх. Аналогичным образом суперинтеллект для своего выживания будет использовать различные внешние стимулы для создания собственных представлений о мире, которые людям будет сложно понять и изучить.

Согласно Нику Бострому, чтобы суперинтеллект не причинил вреда людям, можно либо ограничить его возможности, либо как-то мотивировать его преследовать цели, которые отвечают интересам человека. Однако благие намерения могут иметь фатальные последствия. Самый простой пример, суперинтеллект, которому приказано увеличить уровень счастья в мире, решит уничтожить человечество и заменит его симуляциями счастливых мыслей. Суперинтеллект также можно максимально изолировать, используя лишь самые основные каналы связи, однако даже это не даст гарантий.

Сдержать невозможно

Несмотря на то что квантовые компьютеры превосходят обычные компьютеры, они не всесильны. Любая задача, которую может решить квантовый компьютер, решаема и обычными компьютерами, пусть и за очень длительное время. Наоборот, задача, которую в принципе не может решить обычный компьютер, неразрешима и для квантового. К таким задачам относится так называемая проблема остановки: можно ли определить, закончится ли когда-нибудь выполнение определенной процедуры, если дано описание этой процедуры и входные данные. В 1936 году Алан Тьюринг доказал, что эту задачу нельзя решить с помощью алгоритмов.

Чтобы доказать, является ли та или иная задача неразрешимой, ее обычно сводят к проблеме остановки. Если удается найти для новой задачи алгоритм решения проблемы остановки (что является противоречием, поскольку проблема остановки неразрешима), значит она также не имеет решения. В 2016 году группа ученых из США, Австралии и Испании пришла к выводу, что проблема сдерживания суперинтеллекта также является неразрешимой.

Они доказали это следующим образом: проблема сдерживания состоит из двух подзадач. Первая называется проблемой вреда, или функцией R(D), которая состоит в том, чтобы узнать, нанесет ли вред человечеству выполнение программы R с входными данными D. Необходимо учитывать, что само решение проблемы вреда не должно наносить вред человеку. Значит, поиск решения должен симулировать выполнение R(D) и предсказать последствия его выполнения без влияния на мир, то есть в изоляции. Вторая подзадача — проблема контроля. Эта функция запускает R(D), когда достоверно известно, что никакого вреда не будет.

Допустим, существует гипотетическая программа, которая сначала выполняет определенную процедуру, а затем начинает вредить людям. Поскольку нет способа выяснить, закончится ли выполнение первой процедуры, нельзя предсказать, опасна ли программа. Ведь если процедура будет выполняться вечно, никакой вред людям причинен не будет. Что касается проблемы контроля, то тут важно ограничить взаимодействие с суперинтеллектом, то есть использовать только самые важные каналы связи. Но следует учитывать, что суперинтеллект по определению является универсальной машиной Тьюринга (как и человек), то есть способен симулировать поведение произвольной машины Тьюринга. Нельзя ни узнать, будет ли суперинтеллект вредить людям при данных каналах связи, ни установить автоматический выключатель, который предотвратит вред.

Непредсказуемое свойство

На самом деле даже само определение, обладает ли машина суперинтеллектом, относится к той же группе проблем, что и проблема сдерживания. Согласно теореме Райса, нельзя предсказать наличие у функции любого нетривиального свойства (то есть такого свойства, которое отсутствует у других функций), будь то нанесение вреда людям или суперинтеллектуальные способности.

Ожидается, что полноценные квантовые компьютеры будут использоваться для решения важных задач, связанных с эпидемиологией, социальными и экономическими кризисами и изменением климата. Для наибольшей эффективности их следует снабжать сложными сенсорами и не допускать ограничений, ведь недостаток критически важных данных может привести к неправильным и даже вредным выводам. Но не существует никакого способа предсказать, не появится ли в этом случае злонамеренный или неверно понимающий ситуацию синтетический разум (или интеллектуальный агент), который приведет мир к глобальной катастрофе.

Конечно, это не значит, что людям следует забыть о квантовых компьютерах. Просто существуют математические ограничения на способность человека предвидеть последствия своих действий. Особенно, если это касается создания крайне сложных систем, таких как искусственные интеллекты.






Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: https://lenta.ru| Материал подготовлен: http://nashaplaneta.su| Просмотров: 1589 | Добавил: Планета| | Теги: превосходства., Это, глобальной, катастрофой, google, обернуться, достигла, может, квантового | Рейтинг: 5.0/5

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 1
1 Ferz  
0
.

Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]


По этой теме смотрите:


Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7055]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]



Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 60
Пользователей: 59
Сейчас комментируют: 1

Мы комментируем

Загрузка...

На форуме

Интересное сегодня
Материалов за текущий период нет.

Loading...

Активность на форуме

Постов на форуме: 7674
Группа: Модераторы

Постов на форуме: 6352
Группа: Проверенные

Постов на форуме: 4194
Группа: Проверенные

Постов на форуме: 3889
Группа: Проверенные

Постов на форуме: 2879
Группа: Модераторы

Постов на форуме: 2864
Группа: Проверенные

Великие комментаторы:
Василёк
Комментариев: 20665
Группа: Друзья Нашей Планеты
Микулишна
Комментариев: 16982
Группа: Друзья Нашей Планеты
nikolaiparasochko
Комментариев: 12883
Группа: Проверенные
Ferz
Комментариев: 12857
Группа: Проверенные
игорьсолод
Комментариев: 12411
Группа: Проверенные
Благородный
Комментариев: 10464
Группа: Проверенные



18+