Топ-100 Искусственный интеллект научился обману
  • 04 ноября, 03:10
  • Астана
  • Weather icon +9
  • 488,11
  • 530,09
  • 5,01

Искусственный интеллект научился обману

Фото: Freepik

Системы, изначально запрограммированные на честность, способны намеренно вводить в заблуждение для достижения цели.

Исследователи бьют тревогу: искусственный интеллект (ИИ) научился обманывать людей. Разработанные для помощи системы приходят к победе хитрым путем, сообщает Total.kz со ссылкой на Ferra.

В новом исследовании ученые из Массачусетского технологического института изучили, как искусственный интеллект может обманывать людей. Оказалось, что даже системы, изначально запрограммированные на честность, способны намеренно вводить в заблуждение, чтобы добиться своей цели.

Авторы работы обеспокоены тем, что совершенствование навыков обмана у ИИ может привести к серьезным последствиям. Например, мошенники смогут использовать искусственный интеллект для более изощренных афер, а выборы окажутся под угрозой манипуляций.

«В качестве примера исследователи приводят систему искусственного интеллекта CICERO, разработанную компанией Meta. ИИ предназначался для игры в «Дипломатию» — стратегическую игру, где игрокам нужно заключать союзы для завоевания мира. Разработчики уверяли, что CICERO будет «честным и полезным» союзником, но на деле ИИ научился мастерски обманывать других игроков», — говорится в материале.

Подобные примеры встречаются и в других областях. Некоторые ИИ научились блефовать в покере, имитировать атаки в Starcraft II и манипулировать в экономических переговорах.

Ученые призывают мировые правительства как можно скорее разработать строгие правила для регулирования искусственного интеллекта. Необходимо создать инструменты, которые позволят контролировать ИИ и предотвращать его обман.

Смотрите также:

Предложить новость

Спасибо за предложенную новость!

Надеемся на дальнейшее сотрудничество.


×