Новейшие разработки в сфере искусственного интеллекта требуют от инженеров и ученых понимания того, как не утратить контроль над "умными" системами, чтобы они не угрожали человечеству. Как сообщает РИА Новости, такое заявление сделала Татьяна Черниговская, завлабораторией когнитивных исследований и кафедрой проблем конвергенции естественных и гуманитарных наук СПбГУ.

"Может ли искусственный интеллект стать личностью и обрести свое "я". Сегодня мы подходим к тому, что такая опасность появляется в реальном мире", — отметила Черниговская, выступая на научной сессии "Нелинейная наука: интеллектуальные ресурсы для будущего" конференции Российской ассоциации содействия науке.

Черниговская добавила, что искусственный интеллект может базироваться на совершенно других принципах, чем интеллект человека. Кроме того, ИИ будет не только обучаться людьми, но и самообучаться. В этом свете ученым предстоит определить признаки, по которым можно будет установить, обрел ли ИИ свое "я" в определенный момент обучения.

"Наука должна остановиться и подумать, как не утратить базовые представления о контроле за искусственным интеллектом. Развиваясь без контроля, ИИ может стать слишком опасным, поэтому человечество должно действовать на упреждение", — сказала исследовательница.