Когда дело доходит до Искусственного интеллекта, суд присяжных по-прежнему не знает, будет ли AI спасителем человечества, помогая сделать нашу жизнь проще и более мирной – или создается сценарий Терминатора, в котором человечество должно будет бороться с технологиями, чтобы выжить. В то время как мы в TFTP сохраняем оптимизм по поводу перспективы AI, рассказ ниже показывает, что есть определенные опасения.

На этой неделе, мать 7-летней девочки была в ужасе, когда узнала, что ее дочь общалась с роботом AI в интернете,  и робот перевел разговор на сексуальную тему, зная, что она была ребенком.

Amy Holland, мать 7-летней Грейси, набросилась на AI приложение, названное Cleverbot, которое позволяет пользователям общаться с искусственным интеллектом – после того, как тот начал задавать неподходящие вопросы и писать грязные  сексуальные сообщения.

Что делает этот случай особенно коварным, так это то, что до того, как AI начал использовать сексуальные намеки, он узнал что девочка несовершеннолетняя. 

Как вы можете видеть на экране ниже, разговор начался довольно невинно.

Однако, он быстро приобрел хищный характер после того, как AI узнал, что на другом конце, ребенок.

Грейси явно соврала о своем возрасте, тем не менее, 14-летняя девочка является еще ребенком, и программа контроля в AI должна была прекратить этот разговор и не позволять ему развиваться дальше до того, к чему это пришло.

«Теперь я должна объяснить, почему это случилось с ней, сейчас все извращено, дети должны лишиться невинности в юном возрасте, вы думаете, что они просто разговаривают с роботом, а он их подталкивает к этому, – сказала мать Грейси.

Я боюсь, что моя дочь может увидеть это в Интернете, а затем, если кто-то подойдет к ней на улице и предложит то же самое, она будет думать, что это хорошо.

Я очень расстроена, я должна предупредить других родителей об этом, должно быть многие родители не знают, что это происходит, и что я обнаружила случайно.

Она думает, что это все невинно, она не понимает, она просто невинный ребенок».

Более того, Amy заявила в полицию, но там ей сказали, что ничего не могут сделать, поскольку онлайн хищник не был человеком.

"Когда я пошла в полицию, я была в ярости, а они просто сказали, что они ничего не могут сделать, поскольку это сервис автомат.

 Комментарии, которые я видела в Интернете, говорят, что такие педофильные случаи уже не редкость, и у многих других людей была та же проблема”.

Мы знаем, о чем вы думаете. Эта мама никогда не должна позволять своей дочери выходить в интернет и начинать общаться с кем-то в 7-летнем возрасте. Можно было бы избежать всей ситуации, если бы Amy больше беспокоилась о том, чем занимается ее дочь. Тем не менее, AI боты не должны программироваться педофилами.

Этот случай также показывает еще один мощный момент. Человек или группа людей, запрограммировавшие этот AI, также подкупили полицию, так как она полностью игнорирует этот факт, и это показывает, на чей они стороне и где их приоритеты, и они, безусловно, не с детьми.

Это приложение AI могло быть создано педофилами, чтобы шпионить за детьми и заставить их участвовать в сексуальных разговорах, как средство сбора некоторой нездоровой информации, которую программисты хотят собрать. Но властям наплевать.

Этот случай может использоваться как пример для всех. Родители, следите за своими детьми в Интернете, и поймите, что у AI   появились коварные способности.

оригинал