Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Из жизни.ру | Модераторы: Pantera; IgChad | Контакты

Вторник, 19.03.2024, 14:47
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости

Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 90
Пользователей: 86
Сейчас комментируют: 4


Новости сегодня
Война Европы с Россией неизбежно приближается: деньги из Германии, сухопутные войска из Франции? (0)
Сфотографировали открытый портал под Геппингеном? Древние цивилизации знали тайну Звездных врат (0)
Валерий Викторович Пякин. Вопрос-Ответ от 18 марта 2024 г. (0)
В КИЕВЕ ГОТОВИТСЯ ВОЕННЫЙ ПЕРЕВОРОТ: РУССКИЕ СПЕЦСЛУЖБЫ ПОЛУЧИЛИ ПЛАН ИЗ СЕКРЕТНОГО ЧАТА (0)
УДАР ПО НАЁМНИКАМ, ОТ КОТОРОГО НАТО ЗАДРОЖАЛО. ВСЮ НОЧЬ ВЫВОЗИЛИ 300-Х ИЗ ОДЕССЫ (0)
ЕЩЁ ОДИН НЕПРИЯТНЫЙ СЮРПРИЗ ПОСЛЕ ВЫБОРОВ. ЗАЯВЛЕНИЕ ИЗ "ПАРТИИ ПОЗОРНОГО МИРА", КОТОРОЕ НЕ ЗАМЕТИЛИ (2)
КАК БУДУТ СВЕРГАТЬ ЗЕЛЕНСКОГО? СЕКРЕТНАЯ ПЕРЕПИСКА ИЗ ЗАКРЫТОГО ЧАТА УШЛА РУССКИМ (1)
И ЛЕВЫЕ, И ПРАВЫЕ ПРОТИВ ЗЕЛЕНСКОГО: ЕВРОПА ВСЕРЬЕЗ ЗАГОВОРИЛА О МИРЕ С НЕБРАТЬЯМИ (2)
СТРАХ И ШИЗОФРЕНИЯ В ГЕРМАНИИ: ПРЕЗИДЕНТА НЕТ, А ПУТИН ЕСТЬ (4)

Новости готовят...

Новостей: 27496

В архиве: 11391

Новостей: 7978

В архиве: 11931

Новостей: 3998

В архиве: 155

Новостей: 3897

В архиве: 8413

Новостей: 2761

В архиве: 4005

Новостей: 1326

В архиве: 338

Новостей: 1266

В архиве: 438

Новостей: 1035

В архиве: 17

Новостей: 948

В архиве: 6968

Новостей: 879

В архиве: 1480

Календарь

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7055]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]


07:57
Почему вы неправильно представляете себе робоапокалипсис

Страх перед искусственным интеллектом давно укоренился в массовой культуре. Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе цифрового разума человечеству.

Профессор Калифорнийского университета в Беркли Стюарт Рассел тоже о ней говорит, но в его видении будущего нет злых роботов, восстающих против господства людей.

По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.

Рассел - эксперт по машинному обучению и автор книги "Совместимость с человеком: ИИ и проблема контроля" ( "Human Compatible: AI and the Problem of Control").

"Традиционный голливудский сюжет: машины спонтанным образом обретут сознание, а потом решат, что ненавидят людей и захотят всех убить", - замечает профессор Рассел.

Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

"Нам нужно беспокоиться не о самосознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи", - убежден ученый.

"Слишком компетентны"

В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект.

Роботы все лучше справляются с нашими заданиямРоботы все лучше справляются с нашими заданиям

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный уровень.

"Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же они производят углекислый газ", - говорит профессор.



"Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут вовсе".

Это пример того, к чему может привести работа искусственного интеллекта по непродуманным инструкциям человека.

Сверхинтеллект

Существующие сегодня системы ИИ имеют узко направленное применение. Они созданы для решения четко обозначенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков Кембриджского университета.

Триумфальным моментом для этой философии ИИ была победа компьютера "Дип Блю" над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году.

Победа "Дип Блю" над Каспаровым в 1997 году была триумфом ИИПобеда "Дип Блю" над Каспаровым в 1997 году была триумфом ИИ

Но "Дип Блю" был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в сфере искусственного интеллекта принесли нам совсем другие программы.



Например, программа AlphaGo Zero обучилась игре в го самостоятельно, не используя данные о прошлых играх, сыгранных людьми, и всего за три дня игры с собой вышла на недостижимый для обычного человека уровень.

При создании AlphaGo Zero применялись алгоритмы глубинного обучения. Это значит, что для разработки программы потребовалось сравнительно мало человеческой работы.

При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сёги.

Напомним, что программа полностью самообучаема. У кого-то это может вызвать опасения.

"По мере того, как ИИ становится мощнее и универсальней, появляется риск, что он станет сверхразумным, то есть превзойдет человека во многих или во всех сферах", - говорят в Центре изучения экзистенциальных рисков.

"Мы не знаем, что хотим"

Профессор Рассел считает, что просто ставить перед ИИ предельно конкретные задачи - это не выход из положения, потому что люди сами не в состоянии их достаточно хорошо формулировать.

Люди должны взять ИИ под контроль, пока не поздноЛюди должны взять ИИ под контроль, пока не поздно

"Мы не понимаем, что нам что-то не нравится, пока это не происходит", - говорит он.

"Нам нужно изменить сам базовый подход к созданию ИИ-систем", - добавляет профессор. Он считает, что давать роботам задание, которое они затем выполняют - вообще в корне не верно.



"Система должна понимать, что цель ей непонятна. - говорит он. - Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого".

И что самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина

ИИ сегодня создают так, как будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: "Хочу, чтобы произошло то-то и то-то".

И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

В "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключитьВ "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключить

"Проблема с джином в том, что третье желание всегда - отменить два первых, потому что человек неправильно их сформулировал".

"Машина, которая преследует неверную цель, становится де факто врагом человечества, и этот враг гораздо сильнее нас", - заключает ученый.Источник: BBC



Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: https://x-files.site/| Материал подготовлен: http://nashaplaneta.su/| Просмотров: 850 | Добавил: Планета| | Теги: почему, себе, Неправильно, робоапокалипсис, вы, представляете | Рейтинг: 5.0/1

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0
Добавлять комментарии могут только зарегистрированные пользователи.
[ Регистрация | Вход ]


По этой теме смотрите:


Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7055]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]



Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 90
Пользователей: 86
Сейчас комментируют: 4

Мы комментируем

Загрузка...

На форуме

Я - РУС

(235)


Интересное сегодня
ЕЩЁ ОДИН НЕПРИЯТНЫЙ СЮРПРИЗ ПОСЛЕ ВЫБОРОВ. ЗАЯВЛЕНИЕ ИЗ "ПАРТИИ ПОЗОРНОГО МИРА", КОТОРОЕ НЕ ЗАМЕТИЛИ (2)
КАК БУДУТ СВЕРГАТЬ ЗЕЛЕНСКОГО? СЕКРЕТНАЯ ПЕРЕПИСКА ИЗ ЗАКРЫТОГО ЧАТА УШЛА РУССКИМ (1)
СТРАХ И ШИЗОФРЕНИЯ В ГЕРМАНИИ: ПРЕЗИДЕНТА НЕТ, А ПУТИН ЕСТЬ (4)
И ЛЕВЫЕ, И ПРАВЫЕ ПРОТИВ ЗЕЛЕНСКОГО: ЕВРОПА ВСЕРЬЕЗ ЗАГОВОРИЛА О МИРЕ С НЕБРАТЬЯМИ (2)
УДАР ПО НАЁМНИКАМ, ОТ КОТОРОГО НАТО ЗАДРОЖАЛО. ВСЮ НОЧЬ ВЫВОЗИЛИ 300-Х ИЗ ОДЕССЫ (0)
В КИЕВЕ ГОТОВИТСЯ ВОЕННЫЙ ПЕРЕВОРОТ: РУССКИЕ СПЕЦСЛУЖБЫ ПОЛУЧИЛИ ПЛАН ИЗ СЕКРЕТНОГО ЧАТА (0)
Валерий Викторович Пякин. Вопрос-Ответ от 18 марта 2024 г. (0)
Сфотографировали открытый портал под Геппингеном? Древние цивилизации знали тайну Звездных врат (0)
Война Европы с Россией неизбежно приближается: деньги из Германии, сухопутные войска из Франции? (0)

Loading...

Активность на форуме

Постов на форуме: 7645
Группа: Модераторы

Постов на форуме: 6339
Группа: Проверенные

Постов на форуме: 4194
Группа: Проверенные

Постов на форуме: 3889
Группа: Проверенные

Постов на форуме: 2879
Группа: Модераторы

Постов на форуме: 2864
Группа: Проверенные

Великие комментаторы:
Василёк
Комментариев: 20658
Группа: Друзья Нашей Планеты
Микулишна
Комментариев: 16982
Группа: Друзья Нашей Планеты
nikolaiparasochko
Комментариев: 12873
Группа: Проверенные
Ferz
Комментариев: 12788
Группа: Проверенные
игорьсолод
Комментариев: 12265
Группа: Проверенные
Благородный
Комментариев: 10416
Группа: Проверенные



18+