Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Планета Тайн | Из жизни.ру | ВТОРАЯ ПЛАНЕТА | Модераторы: Pantera; IgChad | Контакты

Среда, 11.12.2019, 18:37
Привет, Гость Нашей Планеты | RSS
ПОДПИСАТЬСЯ НА ИЗВЕЩЕНИЯ ОБ ОБНОВЛЕНИЯХ САЙТА


Форма входа
Логин:
Пароль:

плюсы баннерной рекламы

Загрузка...


Другие новости


Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 189
Пользователей: 179
Сейчас комментируют: 10


Новости сегодня
Дракон осторожно высунулся из пещеры и с подозрением оглядел столпившихся героев. (0)
Замок 10 века выставили новостроем 2019 года. (0)
Телепортация - не фантастика, а реальность. Когда можно будет телепортировать человека? (0)
Георгий Адамский человек летавший в космос на НЛО (0)
кто ты..? (0)
Израильский скандал - наш Мир ненастоящий II. (0)
Загадки человечества с Олегом Шишкиным. Выпуск 369 (10.12.2019) (0)
Фотоподборка: День за днем (0)
Кадр дня: Красотуля! (0)
Потрясающие подземные города мира (0)
10 попыток объяснить, что такое время (0)
В России предрекли «генеральное сражение XXI века» с США (0)
Коротко о изобретении "Фанты" (0)
Ярош назвал сроки уничтожения Украины (0)
7 ТЕХНИК ДЛЯ РАЗВИТИЯ ПОЗИТИВНОГО МЫШЛЕНИЯ НА КАЖДЫЙ ДЕНЬ (0)
Кадыров ответил на идею пересмотреть присвоение ему звания Героя России (0)
Климатолог рассказал о прогнозе европейской зимы в Москве (0)
Google рассказал, что россияне чаще всего искали в 2019 году (0)
Разоблачение Жарниковой? До слёз! (0)
Умный туалет во Франции высушил и вымыл туриста, после чего отказался его выпускать (0)
В Новой Зеландии произошел смертоносный взрыв вулкана: кадры с места трагедии (0)
Волна тепла принесла мистические туманы: фотообзор (0)
Цветы, которые могут навредить вашему здоровью (0)
Увидеть Париж и… уцелеть! Специальный репортаж (09.12.2019) (0)
Оленьи гонки- Булунские олени - Якутия (1)
Ouest-France: глава французского Минфина пообещал найти способ для обхода антироссийских санкций США (0)
Шестилетним детям в британской школе дают задание писать любовные письма гомосексуальной направленности в рамках пропаганды социокультурного (0)
Американцы пророчат катастрофу портам Прибалтики из-за ухода России (1)
Литва: гнев паразита (0)
Армия США готовит крупнейшее за последние 25 лет развертывание войск в Европе (18)
три оборота, которые сделают вечер томным, а может быть и утро☻ (2)
Кому СЧАСТЬЕ . (0)
Продукты, которые помогут быстро избавиться от отеков и лишней жидкости в организме Рецепты здоровья (0)
Бывший менеджер Boeing признался в страхе сажать свою семью на самолеты Boeing (0)
ЭТО ВАЖНО ЗНАТЬ Ситуации в которых КАТЕГОРИЧЕСКИ нельзя ПИТЬ ВОДУ Советы для здоровья (0)
Яичная скорлупа БОЛЬШЕ НЕ ПРИГОДИТСЯ на огороде С легкостью ее ВЫБРАСЫВАЙТЕ Дачные советы (0)
Кристина Лагард : «Пожилые люди живут слишком долго, что-то должно быть сделано» (10)
Олимпийское deja.vu... (0)
"Сегодня ты победитель": Меркель одной фразой оценила итоги саммита в Париже (0)
Они ещё поборются, но не долго. Михаил Хазин. (1)
Окна Овертона: Путин рассказал о приговорах «за брошенный стаканчик» (5)
СМЕРТЕЛЬНАЯ ТАЙНА БОЛЬШИХ ГОРОДОВ ИЛИ ПАСЕЧНИК И ЕГО ПЧЁЛЫ (3)

Новости готовят...

Новостей: 13851

Новостей: 11777

Новостей: 11307

Новостей: 8413

Новостей: 6607

Новостей: 4419

Новостей: 4002

Новостей: 3924

Новостей: 1790

Новостей: 1705

Календарь

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [1369]Безумный мир [2096]Взаимоотношения людей [1044]Войны и конфликты [1519]
Гипотезы и версии [10635]Дом, сад, кулинария [3162]Животные и растения [2438]Здоровье, психология [4238]
Искусство, литература, поэзия [735]История, археология [3522]Мир вокруг нас [2992]Мировые новости [3573]
Наука и технологии [1116]Непознанное [3388]НЛО и уфология [869]Общество [7005]
Прогнозы ученых,исследования [463]Происшествия, чп, аварии [1408]Предсказания и астрология [861]Религии, учения [480]
Российские новости [5641]Советы и истории из жизни [841]Стихия, климат, экология [1891]Феномены и аномалии [904]
Фильмы и видео [3974]Частное мнение [5658]Это интересно! [4080]Юмор, афоризмы, притчи [2390]


07:57
Почему вы неправильно представляете себе робоапокалипсис


Страх перед искусственным интеллектом давно укоренился в массовой культуре. Лучшие умы человечества, от Стивена Хокинга до Илона Маска, говорили об экзистенциальной угрозе цифрового разума человечеству.

Профессор Калифорнийского университета в Беркли Стюарт Рассел тоже о ней говорит, но в его видении будущего нет злых роботов, восстающих против господства людей.

По версии Рассела, машины в какой-то момент просто станут настолько эффективными, что уничтожат нас, выполняя задания, которые мы же им и дали.

Рассел - эксперт по машинному обучению и автор книги "Совместимость с человеком: ИИ и проблема контроля" ( "Human Compatible: AI and the Problem of Control").

"Традиционный голливудский сюжет: машины спонтанным образом обретут сознание, а потом решат, что ненавидят людей и захотят всех убить", - замечает профессор Рассел.

Но это, по его мнению, неправильное видение робоапокалипсиса, ведь у машин нет человеческих эмоций.

"Нам нужно беспокоиться не о самосознании злых машин, а о компетентности машин, которые выполняют поставленные нами задачи", - убежден ученый.

"Слишком компетентны"

В интервью программе BBC Today профессор Рассел описал гипотетическую ситуацию, в которой существованию человечества может угрожать искусственный интеллект.

Роботы все лучше справляются с нашими заданиямРоботы все лучше справляются с нашими заданиям

Представьте, что существует сверхмощный искусственный интеллект, который может контролировать климат на планете. Ему ставят задачу вернуть уровни углекислого газа в атмосфере на доиндустриальный уровень.

"Система сочтет, что самый эффективный способ это сделать - уничтожить людей. Это же они производят углекислый газ", - говорит профессор.



"Это можно обойти, например, поставив ей условие не избавляться от людей. Что тогда сделает система? Она будет делать так, чтобы рождалось все меньше и меньше детей, пока люди не исчезнут вовсе".

Это пример того, к чему может привести работа искусственного интеллекта по непродуманным инструкциям человека.

Сверхинтеллект

Существующие сегодня системы ИИ имеют узко направленное применение. Они созданы для решения четко обозначенных проблем в какой-то одной сфере, говорят ученые Центра изучения экзистенциальных рисков Кембриджского университета.

Триумфальным моментом для этой философии ИИ была победа компьютера "Дип Блю" над действующим чемпионом мира по шахматам Гарри Каспаровым в 1997 году.

Победа "Дип Блю" над Каспаровым в 1997 году была триумфом ИИПобеда "Дип Блю" над Каспаровым в 1997 году была триумфом ИИ

Но "Дип Блю" был создан исключительно для игры в шахматы. В шашки он проиграл бы и пятикласснику.

Последние достижения в сфере искусственного интеллекта принесли нам совсем другие программы.



Например, программа AlphaGo Zero обучилась игре в го самостоятельно, не используя данные о прошлых играх, сыгранных людьми, и всего за три дня игры с собой вышла на недостижимый для обычного человека уровень.

При создании AlphaGo Zero применялись алгоритмы глубинного обучения. Это значит, что для разработки программы потребовалось сравнительно мало человеческой работы.

При этом AlphaGo Zero умеет хорошо играть и в шахматы, и в сёги.

Напомним, что программа полностью самообучаема. У кого-то это может вызвать опасения.

"По мере того, как ИИ становится мощнее и универсальней, появляется риск, что он станет сверхразумным, то есть превзойдет человека во многих или во всех сферах", - говорят в Центре изучения экзистенциальных рисков.

"Мы не знаем, что хотим"

Профессор Рассел считает, что просто ставить перед ИИ предельно конкретные задачи - это не выход из положения, потому что люди сами не в состоянии их достаточно хорошо формулировать.

Люди должны взять ИИ под контроль, пока не поздноЛюди должны взять ИИ под контроль, пока не поздно

"Мы не понимаем, что нам что-то не нравится, пока это не происходит", - говорит он.

"Нам нужно изменить сам базовый подход к созданию ИИ-систем", - добавляет профессор. Он считает, что давать роботам задание, которое они затем выполняют - вообще в корне не верно.



"Система должна понимать, что цель ей непонятна. - говорит он. - Когда создаются такие системы, они действительно зависят от человека. Они начинают спрашивать разрешения перед тем, как что-то сделать, потому что не уверены, хотите ли вы этого".

И что самое важное, говорит профессор, они не будут сопротивляться, если вы решите их выключить, потому что они созданы таким образом, чтобы не делать того, что вам не нравится.

Лампа Аладдина

ИИ сегодня создают так, как будто это джин из лампы, говорит профессор Рассел. Вы трете лампу и говорите: "Хочу, чтобы произошло то-то и то-то".

И если искусственный интеллект достаточно мощный, то он сделает именно то, что вы попросите.

В "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключитьВ "Космической одиссее 2001 года" Стэнли Кубрика сверхразумный компьютер восстает против людей, решивших его выключить

"Проблема с джином в том, что третье желание всегда - отменить два первых, потому что человек неправильно их сформулировал".

"Машина, которая преследует неверную цель, становится де факто врагом человечества, и этот враг гораздо сильнее нас", - заключает ученый.Источник: BBC





Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Наука и технологии | Источник: https://x-files.site/| Материал подготовлен: http://nashaplaneta.su/| Просмотров: 174 | Добавил: Планета| | Теги: почему, себе, неправильно, робоапокалипсис, Вы, представляете | Рейтинг: 5.0/1

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0
Имя *:
Email:
Подписка:1
Код *:


По этой теме смотрите:

Загрузка...

Астрономия и космос [1369]Безумный мир [2096]Взаимоотношения людей [1044]Войны и конфликты [1519]
Гипотезы и версии [10635]Дом, сад, кулинария [3162]Животные и растения [2438]Здоровье, психология [4238]
Искусство, литература, поэзия [735]История, археология [3522]Мир вокруг нас [2992]Мировые новости [3573]
Наука и технологии [1116]Непознанное [3388]НЛО и уфология [869]Общество [7005]
Прогнозы ученых,исследования [463]Происшествия, чп, аварии [1408]Предсказания и астрология [861]Религии, учения [480]
Российские новости [5641]Советы и истории из жизни [841]Стихия, климат, экология [1891]Феномены и аномалии [904]
Фильмы и видео [3974]Частное мнение [5658]Это интересно! [4080]Юмор, афоризмы, притчи [2390]


ПОМОГИТЕ СПАСТИ МАЛЫША!

Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 189
Пользователей: 179
Сейчас комментируют: 10


Мы комментируем

Загрузка...

На форуме

СТИШКИ

(2942)

«Я»

(133)

СЛОВО

(122)


Интересное сегодня
Кристина Лагард : «Пожилые люди живут слишком долго, что-то должно быть сделано» (10)
СМЕРТЕЛЬНАЯ ТАЙНА БОЛЬШИХ ГОРОДОВ ИЛИ ПАСЕЧНИК И ЕГО ПЧЁЛЫ (3)
Окна Овертона: Путин рассказал о приговорах «за брошенный стаканчик» (5)
Они ещё поборются, но не долго. Михаил Хазин. (1)
"Сегодня ты победитель": Меркель одной фразой оценила итоги саммита в Париже (0)
Литва: гнев паразита (0)
три оборота, которые сделают вечер томным, а может быть и утро☻ (2)
Армия США готовит крупнейшее за последние 25 лет развертывание войск в Европе (18)
Кому СЧАСТЬЕ . (0)
ЭТО ВАЖНО ЗНАТЬ Ситуации в которых КАТЕГОРИЧЕСКИ нельзя ПИТЬ ВОДУ Советы для здоровья (0)

Loading...

Активность на форуме

Постов на форуме: 3758
Группа: Проверенные

Постов на форуме: 3407
Группа: Проверенные

Постов на форуме: 3116
Группа: Модераторы

Постов на форуме: 2821
Группа: Модераторы

Постов на форуме: 2223
Группа: Друзья Нашей Планеты

Постов на форуме: 2170
Группа: Друзья Нашей Планеты

Великие комментаторы:
Василёк
Комментариев: 14552
Группа: Друзья Нашей Планеты
Geda
Комментариев: 9899
Группа: Проверенные
Микулишна
Комментариев: 9471
Группа: Друзья Нашей Планеты
надёжа
Комментариев: 9235
Группа: Проверенные
nikolaiparasochko
Комментариев: 8000
Группа: Проверенные
omygod
Комментариев: 5398
Группа: Проверенные



18+