Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Планета Тайн | Из жизни.ру | ВТОРАЯ ПЛАНЕТА | Модераторы: Pantera; IgChad | Контакты

Понедельник, 12.04.2021, 16:53
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости

Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 117
Пользователей: 110
Сейчас комментируют: 7


Новости сегодня
Чудо воскрешения мертвых или начало зомби-апокалипсиса? (3)
Химтрейлы превратились в дожди из чумных коров и крыс? (1)
Американцы готовы ввести в Черное море настоящий флот. (4)
Польский ясновидящий предупреждает: скоро надо будет прятаться в бункера. (7)
Скоро май (0)
"Ел хорошо, воевал плохо". Маршал Жуков о Хрущеве в годы войны (3)
из истории (1)
Время разложения различного мусора, засоряющего нашу планету (0)
Большой солнечный минимум продлится до 2070 года (0)
Отвечаю на САМЫЕ неудобные вопросы. (1)
Совбез РФ - удар по Хазарской группе (0)
В Италии есть меч в камне. Это Экскалибур....? (0)
Механизм вращения Земли с позиции универсального устойчивого закона космоса - закона сохранения жизни (1)
Гениальные идеи пришедшие во сне (0)
Загадка людей-счетчиков (0)
Паранормальные феномены космонавта Аксенова (0)
Речь на войне и без войны (1)
12 апреля -День Космонавтики. 60-летний юбилей полёта Гагарина. Отметили испытанием двигателя перспективного орбитального самолёта. (1)
Тайна овец: почему они образовали круг и стояли молча? (4)
ПРЕПЯТСТВЕННОЕ РАЗВОПЛОЩЕНИЕ и Круг Сансары (5)
В поддержку НОД появится новая созидательная сила (6)
«Красная зона России»: оценка обстановки (0)
«Земные орбиты покорителей космоса»: Минобороны рассекретило документы о первых советских космонавтах (2)
В Японии опубликовали «документы» по переговорам с Брежневым о заключении мирного договора (1)
Эхо Москвы - ЭТО МОЙ НАТУРАЛЬНЫЙ ЦВЕТ / (0)
Западные эксперты: «Чёрное море - это русский «тир», а корабли ВМС США в нём - лёгкие мишени» (0)
Артур Шопенгауэр. Заветные мысли (1)
По следам царя Бориса (0)
Узники кровавой страсти (0)
Легко ли стать «репой»? (0)
Рассказы старого геолога (0)
Когда люди начнут жить дольше? (3)
Галактические «подарки» (0)
С Днем не вашей космонавтики, упоротые болваны! (10)

Новости готовят...

Новостей: 7311

В архиве: 11392

Новостей: 4566

В архиве: 11931

Новостей: 850

В архиве: 6970

Новостей: 789

В архиве: 3939

Новостей: 776

В архиве: 1480

Новостей: 725

В архиве: 155

Новостей: 302

В архиве: 438

Новостей: 298

В архиве: 338

Новостей: 271

В архиве: 4005

Новостей: 188

В архиве: 1804

Календарь

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10752]Дом, сад, кулинария [3179]Животные и растения [2454]Здоровье, психология [4271]
Искусство, литература, поэзия [736]История, археология [3561]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7058]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5697]Это интересно! [4123]Юмор, афоризмы, притчи [2399]


07:57
Почему вы неправильно представляете себе робоапокалипсис

Страх перед искусственным интеллектом давно укоренился в массовой культуре. Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе цифрового разума человечеству.

Профессор Калифорнийского университета в Беркли Стюарт Рассел тоже о ней говорит, но в его видении будущего нет злых роботов, восстающих против господства людей.

По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.

Рассел - эксперт по машинному обучению и автор книги "Совместимость с человеком: ИИ и проблема контроля" ( "Human Compatible: AI and the Problem of Control").

"Традиционный голливудский сюжет: машины спонтанным образом обретут сознание, а потом решат, что ненавидят людей и захотят всех убить", - замечает профессор Рассел.

Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

"Нам нужно беспокоиться не о самосознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи", - убежден ученый.

"Слишком компетентны"

В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект.

Роботы все лучше справляются с нашими заданиямРоботы все лучше справляются с нашими заданиям

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный уровень.

"Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же они производят углекислый газ", - говорит профессор.



"Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут вовсе".

Это пример того, к чему может привести работа искусственного интеллекта по непродуманным инструкциям человека.

Сверхинтеллект

Существующие сегодня системы ИИ имеют узко направленное применение. Они созданы для решения четко обозначенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков Кембриджского университета.

Триумфальным моментом для этой философии ИИ была победа компьютера "Дип Блю" над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году.

Победа "Дип Блю" над Каспаровым в 1997 году была триумфом ИИПобеда "Дип Блю" над Каспаровым в 1997 году была триумфом ИИ

Но "Дип Блю" был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в сфере искусственного интеллекта принесли нам совсем другие программы.



Например, программа AlphaGo Zero обучилась игре в го самостоятельно, не используя данные о прошлых играх, сыгранных людьми, и всего за три дня игры с собой вышла на недостижимый для обычного человека уровень.

При создании AlphaGo Zero применялись алгоритмы глубинного обучения. Это значит, что для разработки программы потребовалось сравнительно мало человеческой работы.

При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сёги.

Напомним, что программа полностью самообучаема. У кого-то это может вызвать опасения.

"По мере того, как ИИ становится мощнее и универсальней, появляется риск, что он станет сверхразумным, то есть превзойдет человека во многих или во всех сферах", - говорят в Центре изучения экзистенциальных рисков.

"Мы не знаем, что хотим"

Профессор Рассел считает, что просто ставить перед ИИ предельно конкретные задачи - это не выход из положения, потому что люди сами не в состоянии их достаточно хорошо формулировать.

Люди должны взять ИИ под контроль, пока не поздноЛюди должны взять ИИ под контроль, пока не поздно

"Мы не понимаем, что нам что-то не нравится, пока это не происходит", - говорит он.

"Нам нужно изменить сам базовый подход к созданию ИИ-систем", - добавляет профессор. Он считает, что давать роботам задание, которое они затем выполняют - вообще в корне не верно.



"Система должна понимать, что цель ей непонятна. - говорит он. - Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого".

И что самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина

ИИ сегодня создают так, как будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: "Хочу, чтобы произошло то-то и то-то".

И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

В "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключитьВ "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключить

"Проблема с джином в том, что третье желание всегда - отменить два первых, потому что человек неправильно их сформулировал".

"Машина, которая преследует неверную цель, становится де факто врагом человечества, и этот враг гораздо сильнее нас", - заключает ученый.Источник: BBC



Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: https://x-files.site/| Материал подготовлен: http://nashaplaneta.su/| Просмотров: 419 | Добавил: Планета| | Теги: почему, себе, Неправильно, робоапокалипсис, вы, представляете | Рейтинг: 5.0/1

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0
Имя *:
Email:
Подписка:1
Код *:


По этой теме смотрите:


Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10752]Дом, сад, кулинария [3179]Животные и растения [2454]Здоровье, психология [4271]
Искусство, литература, поэзия [736]История, археология [3561]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7058]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5697]Это интересно! [4123]Юмор, афоризмы, притчи [2399]



Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 117
Пользователей: 110
Сейчас комментируют: 7

Мы комментируем

Загрузка...

На форуме

СТИШКИ

(3531)


Интересное сегодня
Польский ясновидящий предупреждает: скоро надо будет прятаться в бункера. (7)
Совбез РФ - удар по Хазарской группе (0)
Чудо воскрешения мертвых или начало зомби-апокалипсиса? (3)
С Днем не вашей космонавтики, упоротые болваны! (10)
Тайна овец: почему они образовали круг и стояли молча? (4)
Химтрейлы превратились в дожди из чумных коров и крыс? (1)
В поддержку НОД появится новая созидательная сила (6)
Американцы готовы ввести в Черное море настоящий флот. (4)
ПРЕПЯТСТВЕННОЕ РАЗВОПЛОЩЕНИЕ и Круг Сансары (5)
В Италии есть меч в камне. Это Экскалибур....? (0)

Loading...

Активность на форуме

Постов на форуме: 4944
Группа: Модераторы

Постов на форуме: 4194
Группа: Проверенные

Постов на форуме: 3803
Группа: Проверенные

Постов на форуме: 2874
Группа: Модераторы

Постов на форуме: 2499
Группа: Друзья Нашей Планеты

Постов на форуме: 2448
Группа: Друзья Нашей Планеты

Великие комментаторы:
Василёк
Комментариев: 16658
Группа: Друзья Нашей Планеты
Микулишна
Комментариев: 15402
Группа: Друзья Нашей Планеты
Geda
Комментариев: 10234
Группа: Проверенные
надёжа
Комментариев: 9620
Группа: Проверенные
nikolaiparasochko
Комментариев: 9525
Группа: Проверенные
Благородный
Комментариев: 6469
Группа: Проверенные



18+