Главы ведущих мировых технологических корпораций предупредили об экзистенциальной угрозе: искусственный интеллект способен полностью выйти из-под человеческого контроля уже в течение ближайших шести месяцев. Об этом сообщил Первый канал.
Как заявил глава компании Anthropic Дарио Амодеи, стремительное развитие нейросетей достигло критической точки. «Мы стоим на пороге создания систем, логику которых сами не до конца понимаем», — заявил Амодей. По его словам, если темпы разработки более мощных моделей не будут замедлены прямо сейчас, человечество рискует потерять возможность управления собственными творениями, передает РИА «Новости».
Международное агентство Reuters, в свою очередь, отметило, что призывы к паузе в разработке звучат на фоне растущего числа инцидентов с потерей контроля над алгоритмами. Ранее о схожих рисках предупреждал американский предприниматель Илон Маск, призвавший притормозить создание сверхмощных систем для обеспечения глобальной безопасности.
На ситуацию отреагировали и российские власти. Заместитель председателя Совета безопасности РФ Дмитрий Медведев назвал перспективу гибели человечества от ИИ туманной, однако подчеркнул реальность колоссального ущерба. «Вот что точно может быть, так это возникновение ситуации, когда программный продукт, использующий продвинутую версию ИИ для управления крупным производством или транспортным узлом, причинит колоссальный ущерб. Например, столкнёт в воздухе самолёты или уничтожит АЭС», — написал политик в своем Telegram-канале.
Медведев добавил, что создатели генеративного ИИ лукавят: их пугают не столько риски для цивилизации, сколько многомиллиардные иски за допущенные ошибки. Зампред Совбеза призвал страны договориться об общих принципах регулирования технологий, но выразил скепсис по поводу успеха этой инициативы из-за жадности корпораций.
В качестве ответных мер разработчики ищут способы защиты. OpenAI стремится создать полностью автономные процедуры отключения вышедших из-под контроля алгоритмов, а Anthropic применяет подход тандема человека и искусственного интеллекта для мониторинга подозрительной активности.
