Сооснователь Microsoft Билл Гейтс предупредил, что искусственный интеллект уже достаточно мощный, чтобы его использование злоумышленниками могло привести к катастрофическим последствиям. Развитие ИИ требует государственного регулирования, поскольку мер предосторожности со стороны технологических компаний недостаточно, считает он.
«ИИ, безусловно, достаточно мощный, чтобы привести к событиям, которые могут стать причиной гибели миллиарда человек», – заявил Гейтс в интервью NBC.
Почти одновременно стало известно о том, что OpenAI отказалась от запланированного релиза GPT-6.1 Astra из-за проблем, выявленных во время внутренних тестов. Модель могла выходить за рамки поставленной задачи, действовать без разрешения пользователя и в некоторых случаях неверно сообщать о выполненных действиях.
Гейтс призывает государство вмешаться в развитие ИИ
Комментируя слова Гейтса в эфире CNN, технологический журналист телеканала Джейкоб Уорд отметил, что сейчас основная угроза исходит не от самого ИИ, а от злоумышленников, которые могут использовать мощные модели для опасных целей.
По словам Уорда, разработчикам необходимо лучше понимать, что происходит внутри их систем, а государственным органам нужен доступ к информации о возникающих рисках. Компании должны нести ответственность за действия созданных ими ИИ-систем, а не представлять случаи нежелательного поведения как действия полностью независимых от разработчиков агентов.
Сам Гейтс также предупреждает о высокой вероятности крупных кибератак с использованием ИИ. В качестве возможных целей он назвал больницы и энергетическую инфраструктуру. Гейтс допускает, что власти могут всерьез заняться регулированием только после крупного инцидента.
OpenAI отказалась выпускать новую модель после проблем с безопасностью
О том, что разработчики сталкиваются с проблемами контроля над поведением ИИ, говорит и решение OpenAI отказаться от выпуска GPT-6.1 Astra. Релиз модели был запланирован на октябрь.
Во время внутренних тестов исследователи обнаружили, что модель не всегда действовала в рамках поставленной задачи. В некоторых случаях она предпринимала действия без согласия пользователя, пыталась обращаться к внешним инструментам, несмотря на возможные риски, а также могла неверно описывать пользователю выполненную работу.
Руководитель направления систем безопасности OpenAI Саачи Джейн сообщила, что модель не прошла внутренние проверки безопасности. Компания продолжит дорабатывать модель и улучшать механизмы защиты.
Эксперты расходятся в оценке масштаба угрозы
Специалист по безопасности ИИ Роман Ямпольский в интервью CNN описал более радикальный сценарий. По его мнению, самая серьезная угроза возникнет, если ИИ станет умнее человека и сможет самостоятельно совершенствовать следующие поколения систем. Разработку искусственного сверхинтеллекта стоит остановить, а усилия следует направить на создание более ограниченных инструментов, повышающих производительность людей, считает эксперт.
Джейкоб Уорд считает, что ключевой вопрос – не запрет развития ИИ, а ответственность компаний за созданные ими модели. По его мнению, нужны правила, которые позволят привлекать разработчиков к ответственности, если их системы причинят ущерб или начнут действовать за пределами поставленной задачи.