Главная | Регистрация | Вход | Личные сообщения () | ФОРУМ | Планета Тайн | Из жизни.ру | ВТОРАЯ ПЛАНЕТА | Модераторы: Pantera; IgChad | Контакты

Среда, 21.11.2018, 21:16
Привет, Гость Нашей Планеты | RSS
Форма входа
Логин:
Пароль:


Другие новости


Загрузка...


Статистика

Рейтинг@Mail.ru
Онлайн всего: 331
Пользователей: 314
Сейчас комментируют: 17

Загрузка...

Новости сегодня
Предложена замена ЕГЭ (0)
Российский чиновник – вылитый Трамп: сын, брат или двойник? (0)
В Индии аборигены убили христианского миссионера из США (0)
Мягкая сила однополой любви (0)
«Новая газета» исписалась: на выручку подоспели фрилансеры-русофобы (0)
Британские войска отправляются на Украину (4)
Как американцы отдыхают в Питере. Рассказ администратора "Прибалтийской" (0)
Поезд Ходорковского вновь сошел с рельсов. Теперь в Праге (0)
Страх, нищета и кадровый дефицит в армии США (0)
Волга о годовщине "евромайдана": Пять лет прошло как мы перестали быть людьми (1)
Ходорковский созывает русофобов в Праге: бесплатная еда в обмен на критику России (7)
Сухогруз Comet, задержанный Украиной в порту Мариуполя, уже в Мраморном море (0)
Встреча.. (1)
Что общего у косаток и шимпанзе (0)
Отрывок нового интервью Экхарта на "Larry King NOW". (1)
Базилика Лас-Лахас - колумбийское чудо (0)
Первый раз вижу полную версию этого стихотворения! (2)
Принимая решения, мы всегда учитываем полученные советы (3)
Лошади в океане 1989 год (0)
Власть теряет моральные ориентиры: эксперты о скандальных заявлениях политиков (5)
ПОЧЕМУ ОНИ ПРЕЗИРАЮТ НАРОД? (26)
Америка на грани нервного срыва (1)
Вашингтон рвётся воевать на два фронта (1)
Россия приказывает долго жить? Не надейтесь! (5)
ГЕОПОЛИТИЧЕСКИЙ АБЗАЦ И ЕВРЕЙСКИЙ КИРДЫК (2)
Ух ты, Америка пишет такое! (2)
Пришла пора задуматься, друзья! (0)
Центр по фальсификации истории находится в Ватикане? (3)
Короткий эпизод из интервью Путина, вызвавший настоящий шквал пророссийских настроений в Германии (0)
Можно выйти? Способен ли человек покидать своё тело по желанию? (5)
Владимир Зеленский – новый президент Украины (16)
Огурцы по-корейски быстрого приготовления Пошаговый рецепт самых вкусных огурчиков Стоит попробовать (0)
Будет ли Россия тратить деньги на восстановление Сирии? (5)
Лечебные свойства ЛАВРОВОГО ЛИСТА о которых должен знать каждый Полезные рецепты ЗДОРОВЬЯ (0)
Отдаст ли Россия японцам Курилы? (8)
В чем обвинили Цымбалюк-Романовскую? (3)
Набиуллина оценила доступность кредитов после повышения ставки (0)
Собянин рассказал о реставрации московских храмов (0)
У берегов Греции загорелось турецкое грузовое судно (0)
27-летний житель Петербурга Алексей Захаров , ловко плетёт корзины из лозы. (0)
Будет создано «Арабское НАТО»? Вашингтон реализует план «Б» для противодействия России (3)
В Госдуме предлагают отменить ЕГЭ (8)
Бари Алибасов женился на экс-супруге Василия Шукшина (8)
Загадки человечества с Олегом Шишкиным. Выпуск 229 (20.11.2018) (0)
Звезда по имени МКС (2018) (0)
Улика из прошлого. Разум или душа: что управляет нами? (2018) (0)
Специальный репортаж. Нацизм на хуторе близ Европы (2018) (1)
Энциклопедия загадок. Непознанные археологические объекты (2018) (1)
Неотартальцы - Избранная раса кыргызов с печатью на лбу (15)
Засолка сала в рассоле в банке (0)
Видео с необычными существами появилось в интернете. (2)
А.Тюняев: с самолетов в виде тех самых химиотрасс распыляют "умную" нанопыль. (0)
Салат с тунцом и кукурузой (0)
В Галактике нашли "космического змея", готового устроить самый мощный взрыв во Вселенной (1)
Вышел новый трейлер блокбастера "Т-34" (2)
Управленцы ЖКХ попросили защитить их от народа (7)
В нашей стране возможно все! (3)
Отставал ли СССР от всего мира? (0)
Круг света. Уникальные проекции будут подготовлены для фестиваля (0)
Болит, не отпускает. Что избавит от обострения невралгии (2)
Какая память нужна России? (0)
Сосульки и снежные шапки. Кто должен чистить крыши зимой? (0)
Установлена личность погибшего на взлетной полосе в «Шереметьево» (1)
Как отличить фермерское? (18)
ГО ЯН И МОРСКОЙ ВЛАДЫКА ДРАКОН (0)
Вкуснейший соус (заправка) за 5 мин (0)

Календарь
«  Ноябрь 2018  »
ПнВтСрЧтПтСбВс
   1234
567891011
12131415161718
19202122232425
2627282930

ВСЕ НОВОСТИВТОРАЯ ПЛАНЕТАФОРУМПРАВИЛА САЙТАДОБАВИТЬ МАТЕРИАЛ

Астрономия и космос [867]Безумный мир [1626]Взаимоотношения людей [734]Войны и конфликты [1155]
Гипотезы и версии [7474]Дом, сад, кулинария [2272]Животные и растения [1725]Здоровье, психология [2853]
Искусство, литература, поэзия [466]История, археология [2454]Мир вокруг нас [2019]Мировые новости [2817]
Наука и технологии [741]Непознанное [2393]НЛО и уфология [612]Общество [4472]
Прогнозы ученых,исследования [238]Происшествия, чп, аварии [1006]Предсказания и астрология [568]Религии, учения [349]
Российские новости [4287]Советы и истории из жизни [583]Стихия, климат, экология [1313]Феномены и аномалии [638]
Фильмы и видео [2439]Частное мнение [4402]Это интересно! [2861]Юмор, афоризмы, притчи [1787]


10:07
Василиск Роко: самый шокирующий мысленный эксперимент


Василиск Роко — это богоподобная форма искусственного интеллекта, опасная настолько, что если вы просто о ней подумаете, то проведете остаток дней в ужасающих пытках. Похоже на кассету из фильма «Звонок». Однако даже смерть не станет избавлением, ведь Василиск Роко воскресит вас и продолжит свои пытки. T&P представляют перевод статьи об одной из самых странных легенд, порожденных интернетом.



ПРЕДУПРЕЖДЕНИЕ: прочитав эту статью, вы можете обречь себя на вечные страдания и мучения.

Василиск Роко появился на стыке философского мысленного эксперимента и городской легенды. Первое упоминание о нем появилось на дискуссионном борде Less Wrong, где собираются люди, заинтересованные в оптимизации мышления и жизни через призму математики и рациональности. Его создатели являются значимыми фигурами в техно-футуризме, и среди достижений их исследовательского института — вклад в академическую дискуссию о технологической этике и теории принятия решений. Однако то, что вы собираетесь сейчас прочитать, может показаться странным и даже безумным. Несмотря на это, весьма влиятельные и состоятельные ученые верят в это.



Однажды пользователь с именем Roko выложил следующий мысленный эксперимент: что если в будущем возникнет злонамеренный искусственный интеллект, который захочет наказать тех, кто не выполняет его приказы? И что если он захочет наказать тех людей, которые в прошлом не способствовали его созданию? Стали бы в таком случае читатели Less Wrong помогать злому ИИ появиться на свет или были бы обречены им на вечные мучения?

Основатель Less Wrong Елиезер Юдковски с гневом воспринял высказывание Roko. Вот что он ответил ему: «Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям».

«Что если в будущем возникнет искусственный интеллект, который захочет наказать тех, кто не выполняет его приказы?»



Юдковски признал, что Роко повинен в кошмарах, посещающих пользователей Less Wrong, успевших прочесть тред, и удалил его, благодаря чему Василиск Роко стал легендой. Этот мысленный эксперимент стал настолько опасным, что размышления о нем ставили под угрозу душевное здоровье пользователей.

Чем же занимается Less Wrong? Формированием концепции будущего человечества на основе сингулярности. Они верят, что вычислительная мощность в будущем станет настолько высокой, что с помощью компьютера можно будет создать искусственный интеллект — а вместе с ним и возможность загружать человеческое сознание на жесткий диск. Термин «сингулярность» возник в 1958 году в ходе дискуссии двух гениев математики — Станислава Улама и Джона фон Неймана, когда Нейман сказал: «Постоянно ускоряющийся прогресс технологий сделает возможным приближение сингулярности, при которой технологии не смогут быть поняты людьми». Футуристы и писатели-фантастывроде Вернора Винджа и Рэймонда Курцвейла популяризировали термин, так как считали, что сингулярность ждет нас всех уже очень скоро — в ближайшие 50 лет. Пока Курцвейл готовится к сингулярности, Юдковски возлагает большие надежды на крионику: «Если вы заранее не записали своих детей на криоконсервацию, вы — паршивые родители».

Если вы верите, что грядет сингулярность и что мощные ИИ появятся уже в ближайшем будущем, возникает закономерный вопрос: будут ли они дружелюбными или злыми? Фонд Юдковски ставит своей целью так направить развитие технологий, чтобы у нас появился именно дружественный искусственный интеллект. Этот вопрос для него и многих других людей имеет первостепенное значение. Сингулярность приведет нас к машине, эквивалентной богу.



Тем не менее это не объясняет, почему Василиск Роко выглядит таким ужасным в глазах этих людей. Вопрос требует взгляда на главную «догму» Less Wrong — «вневременную теорию принятия решений» (ВТПР). ВТПР — это руководство к рациональным действиям, основанное на теории игр, байесовской вероятности и теории принятия решений, но с учетом существования параллельных вселенных и квантовой механики. ВТПР выросла из классического мысленного эксперимента — парадокса Ньюкома, в котором пришелец, обладающий сверхразумом, предлагает вам две коробки. Он дает вам выбор: либо взять обе коробки, либо только коробку Б. Если выбрать обе, то вы гарантированно получите тысячу долларов. Если взять только коробку Б, вы можете не получить ничего. Однако у пришельца припасен еще один трюк: у него есть всезнающий суперкомпьютер, который сделал неделю назад прогноз, возьмете ли вы обе коробки или только Б. Если бы компьютер предсказал, что вы возьмете обе коробки, пришелец оставил бы вторую пустой. Если бы компьютер предсказал, что вы выберете коробку Б, он бы положил туда один миллион долларов.

Итак, что собираетесь делать? Помните, что суперкомпьютер всеведущ.

Эта проблема сбила с толку множество теоретиков. Пришелец уже не может изменить содержимое коробок. Надежнее всего взять обе коробки и получить свою тысячу. Но вдруг компьютер и правда всеведущ? Тогда вам только и остается взять коробку Б, чтобы получить миллион. Но если он окажется неправ? И независимо от того, что предсказал компьютер, — неужели никак нельзя изменить свою судьбу? Тогда, черт побери, нужно брать обе коробки. Но в таком случае…

Сводящий с ума парадокс, заставляющий нас выбирать между свободой воли и божественным предсказанием, не имеет разрешения, и люди могут только пожимать плечами и выбирать наиболее комфортный для них вариант. ВТПР дает совет: берите коробку Б. Даже если инопланетянин решил посмеяться над вами и откроет пустую коробку со словами: «Компьютер предсказал, что ты возьмешь обе коробки, ха-ха!» — вы все равно должны ее выбрать. Обоснование этому следующее: для того, чтобы сделать прогноз, компьютер должен был симулировать всю Вселенную, включая и вас. Таким образом, в этот момент, стоя перед коробками, вы можете являться всего лишь симуляцией компьютера, но то, что вы сделаете, будет влиять на реальность (или реальности). Так что берите коробку Б и получите миллион.

«Сводящий с ума парадокс, заставляющий нас выбирать между свободой воли и божественным предсказанием, не имеет разрешения»

Какое же отношение это имеет к Василиску Роко? Ну, у него тоже есть пара коробочек для вас. Может быть, вы прямо сейчас находитесь в симуляции, созданной Василиском. Тогда, возможно, мы получаем несколько модифицированную версию парадокса Ньюкома: Василиск Роко говорит вам, что если вы возьмете коробку Б, то подвергнетесь вечным мучениям. Если же вы возьмете обе коробки, то вынуждены будете посвятить свою жизнь созданию Василиска. Если Василиск на самом деле будет существовать (или, хуже того, он уже существует и является богом этой реальности), он увидит, что вы не выбрали вариант помощи в его создании и покарает вас.

Может быть, вы удивлены, почему этот вопрос так важен для Less Wrong, учитывая условность этого мыслительного эксперимента. Не факт, что Василиск Роко когда-нибудь будет создан. Однако Юдковски удалил упоминания о Василиске Роко не потому, что верит в его существование или скорое изобретение, а потому, что считает идею Василиска опасной для человечества.

Таким образом, Василиск Роко опасен только для тех, кто в него верит — в связи с этим участники Less Wrong, поддерживающие идею Василиска, обладают своего рода запретным знанием, что напоминает нам страшные истории Лавкрафта о Ктулху или Некрономиконе. Однако, если вы не подписываетесь под всеми этими теориями и не чувствуете искушения повиноваться коварной машине из будущего, Василиск Роко не представляет для вас никакой угрозы.

Я больше беспокоюсь о людях, которые считают, что поднялись выше общепринятых моральных норм. Подобно ожидаемому Юдковски дружественному ИИ, он и сам является утилитаристом: он считает, что величайшее благо для всего человечества этически оправданно, даже если несколько человек должны умереть или мучиться на пути к нему. Не каждый может столкнуться с подобным выбором, но дело в другом: что если какой-нибудь журналист напишет о мысленном эксперименте, который может разрушить сознание людей, нанеся, таким образом, человечеству вред и помешав прогрессу в области разработки искусственного интеллекта и сингулярности? В этом случае любое добро, что я сделал за свою жизнь, должно перевесить вред, что я принес миру. А, возможно, восставший из криогенного сна Юдковски будущего слился с сингулярностью и решил симулировать меня в следующей ситуации: первая коробка — я напишу эту статью, вторая — нет. Пожалуйста, всемогущий Юдковски, не делай мне больно.







Оцените материал:




ПОДЕЛИСЬ С ДРУЗЬЯМИ:


Материалы публикуемые на "НАШЕЙ ПЛАНЕТЕ" это интернет обзор российских и зарубежных средств массовой информации по теме сайта. Все статьи и видео представлены для ознакомления, анализа и обсуждения. Мнение администрации сайта и Ваше мнение, может частично или полностью не совпадать с мнениями авторов публикаций. Администрация не несет ответственности за достоверность и содержание материалов,которые добавляются пользователями в ленту новостей.


Категория: Гипотезы и версии | Источник: https://12millionov.com/vasilisk-roko-samyj-shokiruyushhij-myslennyj-eksperiment.html| Просмотров: 341 | Добавил: NeAngel| | Теги: василиск, Роко:, шокирующий, мысленный, самый, эксперимент | Рейтинг: 4.5/8

В КОММЕНТАРИЯХ НЕДОПУСТИМА КРИТИКА САЙТА,АДМИНИСТРАТОРОВ,МОДЕРАТОРОВ и ПОЛЬЗОВАТЕЛЕЙ,КОТОРЫЕ ГОТОВЯТ ДЛЯ ВАС НОВОСТИ! УВАЖАЙТЕ ЧУЖОЙ ТРУД!
Всего комментариев: 0
Имя *:
Email:
Подписка:1
Код *:

По этой теме смотрите:

Загрузка...

Астрономия и космос [867]Безумный мир [1626]Взаимоотношения людей [734]Войны и конфликты [1155]
Гипотезы и версии [7474]Дом, сад, кулинария [2272]Животные и растения [1725]Здоровье, психология [2853]
Искусство, литература, поэзия [466]История, археология [2454]Мир вокруг нас [2019]Мировые новости [2817]
Наука и технологии [741]Непознанное [2393]НЛО и уфология [612]Общество [4472]
Прогнозы ученых,исследования [238]Происшествия, чп, аварии [1006]Предсказания и астрология [568]Религии, учения [349]
Российские новости [4287]Советы и истории из жизни [583]Стихия, климат, экология [1313]Феномены и аномалии [638]
Фильмы и видео [2439]Частное мнение [4402]Это интересно! [2861]Юмор, афоризмы, притчи [1787]


ПОМОГИТЕ СПАСТИ МАЛЫША!

Поиск


НАША БЕСЕДКА

СЕЙЧАС НА САЙТЕ:
Онлайн всего: 331
Пользователей: 314
Сейчас комментируют: 17

С ДНЕМ РОЖДЕНИЯ!!!


Мы комментируем

На форуме

СТИШКИ

(2442)

«Я»

(109)



Интересное сегодня
Бари Алибасов женился на экс-супруге Василия Шукшина (8)
В нашей стране возможно все! (3)
Короткий эпизод из интервью Путина, вызвавший настоящий шквал пророссийских настроений в Германии (0)
Владимир Зеленский – новый президент Украины (16)
Управленцы ЖКХ попросили защитить их от народа (7)
Первый раз вижу полную версию этого стихотворения! (2)
А.Тюняев: с самолетов в виде тех самых химиотрасс распыляют "умную" нанопыль. (0)
Установлена личность погибшего на взлетной полосе в «Шереметьево» (1)
Видео с необычными существами появилось в интернете. (2)
ПОЧЕМУ ОНИ ПРЕЗИРАЮТ НАРОД? (26)

Новости готовят...

Новостей: 11412

Новостей: 7970

Новостей: 6839

Новостей: 6772

Новостей: 3807

Новостей: 3234

Новостей: 2900

Новостей: 2500

Новостей: 1180

Новостей: 1138

Активность на форуме

Постов на форуме: 3026
Группа: Проверенные

Постов на форуме: 2236
Группа: Модераторы

Постов на форуме: 2109
Группа: Проверенные

Постов на форуме: 1822
Группа: Друзья Нашей Планеты

Постов на форуме: 1673
Группа: Друзья Нашей Планеты

Постов на форуме: 1046
Группа: Друзья Нашей Планеты

Великие комментаторы:
Василёк
Комментариев: 10383
Группа: Друзья Нашей Планеты
Geda
Комментариев: 9562
Группа: Проверенные
надёжа
Комментариев: 6866
Группа: Проверенные
Микулишна
Комментариев: 6094
Группа: Друзья Нашей Планеты
nikolaiparasochko
Комментариев: 5364
Группа: Проверенные
omygod
Комментариев: 4655
Группа: Проверенные

Загрузка...


18+