Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Планета Тайн | Из жизни.ру | ВТОРАЯ ПЛАНЕТА | Модераторы: Pantera; IgChad | Контакты

Пятница, 19.08.2022, 13:50
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости

Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 74
Пользователей: 71
Сейчас комментируют: 3


Новости сегодня
Украина... Украина... (0)
ПРЕДАТЕЛЬСКИЕ ДОГОВОРЕННОСТИ : ПОРА ОТМЕНИТЬ "АНТИРОССИЙСКИЙ" ПРИКАЗ ГОРБАЧЕВА (2)
РУСОФОБАМ ПРИЛЕТЕЛА ОТВЕТКА: КОРМУШКА В РОССИИ ЗАКРЫВАЕТСЯ (2)
Неведомые земли и народы Севера. (1)
Загадочная Магония: волшебная страна рядом с нами (0)
заброшенный алмазный карьер "Мир" в Якутии (1)
3 самых странных оружия (0)
в СССР каждой семье обещали квартиру к 2000 году (3)
История старого ирокеза (0)
Этот милый дед выглядывает из средневековой форточки не просто так (0)
Тяжелый танк Pz. Kpfw.VI Tiger Ausf.E из состава 101-го тяжелого танкового батальона СС (0)
Рельеф океанского дна без воды (6)
Каждую минуту кто-то покидает этот мир (5)
Пожар на складе боеприпасов под Белгородом: на данный момент взрывы еще продолжаются (4)

Новости готовят...

Новостей: 15346

В архиве: 11392

Новостей: 6751

В архиве: 11931

Новостей: 3998

В архиве: 155

Новостей: 2454

В архиве: 8413

Новостей: 1333

В архиве: 4005

Новостей: 1086

В архиве: 338

Новостей: 1036

В архиве: 17

Новостей: 948

В архиве: 6969

Новостей: 879

В архиве: 1480

Новостей: 836

В архиве: 438

Календарь

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7058]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]


07:57
Почему вы неправильно представляете себе робоапокалипсис

Страх перед искусственным интеллектом давно укоренился в массовой культуре. Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе цифрового разума человечеству.

Профессор Калифорнийского университета в Беркли Стюарт Рассел тоже о ней говорит, но в его видении будущего нет злых роботов, восстающих против господства людей.

По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.

Рассел - эксперт по машинному обучению и автор книги "Совместимость с человеком: ИИ и проблема контроля" ( "Human Compatible: AI and the Problem of Control").

"Традиционный голливудский сюжет: машины спонтанным образом обретут сознание, а потом решат, что ненавидят людей и захотят всех убить", - замечает профессор Рассел.

Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

"Нам нужно беспокоиться не о самосознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи", - убежден ученый.

"Слишком компетентны"

В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект.

Роботы все лучше справляются с нашими заданиямРоботы все лучше справляются с нашими заданиям

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный уровень.

"Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же они производят углекислый газ", - говорит профессор.



"Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут вовсе".

Это пример того, к чему может привести работа искусственного интеллекта по непродуманным инструкциям человека.

Сверхинтеллект

Существующие сегодня системы ИИ имеют узко направленное применение. Они созданы для решения четко обозначенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков Кембриджского университета.

Триумфальным моментом для этой философии ИИ была победа компьютера "Дип Блю" над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году.

Победа "Дип Блю" над Каспаровым в 1997 году была триумфом ИИПобеда "Дип Блю" над Каспаровым в 1997 году была триумфом ИИ

Но "Дип Блю" был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в сфере искусственного интеллекта принесли нам совсем другие программы.



Например, программа AlphaGo Zero обучилась игре в го самостоятельно, не используя данные о прошлых играх, сыгранных людьми, и всего за три дня игры с собой вышла на недостижимый для обычного человека уровень.

При создании AlphaGo Zero применялись алгоритмы глубинного обучения. Это значит, что для разработки программы потребовалось сравнительно мало человеческой работы.

При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сёги.

Напомним, что программа полностью самообучаема. У кого-то это может вызвать опасения.

"По мере того, как ИИ становится мощнее и универсальней, появляется риск, что он станет сверхразумным, то есть превзойдет человека во многих или во всех сферах", - говорят в Центре изучения экзистенциальных рисков.

"Мы не знаем, что хотим"

Профессор Рассел считает, что просто ставить перед ИИ предельно конкретные задачи - это не выход из положения, потому что люди сами не в состоянии их достаточно хорошо формулировать.

Люди должны взять ИИ под контроль, пока не поздноЛюди должны взять ИИ под контроль, пока не поздно

"Мы не понимаем, что нам что-то не нравится, пока это не происходит", - говорит он.

"Нам нужно изменить сам базовый подход к созданию ИИ-систем", - добавляет профессор. Он считает, что давать роботам задание, которое они затем выполняют - вообще в корне не верно.



"Система должна понимать, что цель ей непонятна. - говорит он. - Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого".

И что самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина

ИИ сегодня создают так, как будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: "Хочу, чтобы произошло то-то и то-то".

И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

В "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключитьВ "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключить

"Проблема с джином в том, что третье желание всегда - отменить два первых, потому что человек неправильно их сформулировал".

"Машина, которая преследует неверную цель, становится де факто врагом человечества, и этот враг гораздо сильнее нас", - заключает ученый.Источник: BBC



Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: https://x-files.site/| Материал подготовлен: http://nashaplaneta.su/| Просмотров: 666 | Добавил: Планета| | Теги: почему, себе, Неправильно, робоапокалипсис, вы, представляете | Рейтинг: 5.0/1

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0
Имя *:
Email:
Подписка:1
Код *:


По этой теме смотрите:


Астрономия и космос [1380]Безумный мир [2114]Взаимоотношения людей [1055]Войны и конфликты [1527]
Гипотезы и версии [10751]Дом, сад, кулинария [3178]Животные и растения [2453]Здоровье, психология [4270]
Искусство, литература, поэзия [736]История, археология [3559]Мир вокруг нас [3006]Мировые новости [3592]
Наука и технологии [1124]Непознанное [3424]НЛО и уфология [880]Общество [7058]
Прогнозы ученых,исследования [481]Происшествия, чп, аварии [1414]Предсказания и астрология [879]Религии, учения [484]
Российские новости [5669]Советы и истории из жизни [846]Стихия, климат, экология [1926]Феномены и аномалии [915]
Фильмы и видео [4031]Частное мнение [5696]Это интересно! [4123]Юмор, афоризмы, притчи [2399]



Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 74
Пользователей: 71
Сейчас комментируют: 3

Мы комментируем

Загрузка...

На форуме

Интересное сегодня
РУСОФОБАМ ПРИЛЕТЕЛА ОТВЕТКА: КОРМУШКА В РОССИИ ЗАКРЫВАЕТСЯ (2)
Рельеф океанского дна без воды (6)
Пожар на складе боеприпасов под Белгородом: на данный момент взрывы еще продолжаются (4)
ПРЕДАТЕЛЬСКИЕ ДОГОВОРЕННОСТИ : ПОРА ОТМЕНИТЬ "АНТИРОССИЙСКИЙ" ПРИКАЗ ГОРБАЧЕВА (2)
Этот милый дед выглядывает из средневековой форточки не просто так (0)
Каждую минуту кто-то покидает этот мир (5)
заброшенный алмазный карьер "Мир" в Якутии (1)
Загадочная Магония: волшебная страна рядом с нами (0)
Неведомые земли и народы Севера. (1)
3 самых странных оружия (0)

Loading...

Активность на форуме

Постов на форуме: 6215
Группа: Модераторы

Постов на форуме: 4194
Группа: Проверенные

Постов на форуме: 4042
Группа: Проверенные

Постов на форуме: 3870
Группа: Проверенные

Постов на форуме: 2876
Группа: Модераторы

Постов на форуме: 2864
Группа: Проверенные

Великие комментаторы:
Василёк
Комментариев: 18889
Группа: Друзья Нашей Планеты
Микулишна
Комментариев: 16982
Группа: Друзья Нашей Планеты
nikolaiparasochko
Комментариев: 10954
Группа: Проверенные
Geda
Комментариев: 10237
Группа: Проверенные
надёжа
Комментариев: 9621
Группа: Проверенные
Ferz
Комментариев: 8388
Группа: Проверенные



18+