Илон Маск считает маловероятным, что через десять лет люди по-прежнему будут контролировать искусственный интеллект. В интервью The Economist предприниматель также сообщил, что уже примерно через пять лет совокупные интеллектуальные возможности ИИ превысят возможности всего человечества.
По оценке Маска, после достижения такого уровня развития практически не останется задач, с которыми искусственный интеллект не справлялся бы лучше человека. Одновременно предприниматель связывает развитие технологии с возможностью перехода к «эпохе удивительного изобилия», когда ИИ и роботизация резко увеличат объем доступных товаров и услуг.
При этом Маск признает риски, связанные с появлением систем, значительно превосходящих человека по уровню интеллекта. Остановить их развитие он не считает возможным, поэтому предлагает сосредоточиться на снижении вероятности неблагоприятного сценария.
Через пять лет ИИ может стать умнее всего человечества
Прогноз Маска касается не способности отдельной модели обыграть человека в конкретной задаче, а общего интеллектуального потенциала искусственного интеллекта.
По его мнению, примерно через пять лет совокупные возможности ИИ могут превысить возможности всех людей. В таком сценарии машины смогут лучше человека выполнять практически любую интеллектуальную работу. Исключением, по мнению предпринимателя, останется лишь способность «быть человеком».
Маск рассматривает наиболее вероятный результат развития технологии скорее оптимистично. Он ожидает, что искусственный интеллект и роботы значительно повысят производительность и сформируют экономику, способную производить больше товаров и услуг при меньших затратах.
Предприниматель называет этот сценарий «эпохой удивительного изобилия», при которой люди смогут получать практически все, что способны представить. Реализации такого прогноза могут помешать масштабная война или другие глобальные потрясения, однако при их отсутствии Маск считает этот исход наиболее вероятным.
Почему люди могут потерять контроль над ИИ
Оптимистичный прогноз не исключает угроз, связанных с появлением систем, которые значительно превосходят человека по интеллекту.
На вопрос о том, сохранят ли люди контроль над ИИ через десять лет, Маск ответил, что считает это маловероятным. Он пояснил, что разрыв в возможностях может стать таким же большим, как между современными людьми и приматами.
По логике предпринимателя, если разрыв между возможностями ИИ и человека окажется больше, чем разница в интеллекте между человеком и шимпанзе, менее развитая сторона вряд ли сможет управлять более развитой системой.
Остановить гонку искусственного интеллекта уже невозможно
По словам Маска, развитие ИИ приобрело настолько сильную инерцию, что попытки замедлить его могут приводить к противоположному результату.
Предприниматель напомнил, что участвовал в создании OpenAI как противовеса Google, которая на тот момент, по его оценке, фактически занимала доминирующее положение в сфере искусственного интеллекта.
Позднее из OpenAI выделилась команда Anthropic, ставшая одним из ведущих участников рынка. В результате действия, которые должны были сделать развитие отрасли более безопасным и сбалансированным, дополнительно ускорили конкуренцию между лабораториями.
Маск пришел к выводу, что практически любое действие в этой области способствует дальнейшему развитию технологии. По его словам, «все дороги ведут к ускорению ИИ», поэтому он решил активно участвовать в гонке, а не наблюдать за ней со стороны.
Конкуренты могут проверять модели друг друга
Для снижения рисков Маск предлагает создать систему взаимной проверки наиболее передовых моделей искусственного интеллекта.
По его мнению, руководители ведущих ИИ-компаний должны регулярно проводить совместные встречи или созваниваться раз в одну-две недели, чтобы обсуждать вопросы безопасности и выявленные угрозы.
Кроме того, конкурирующие лаборатории могли бы получать ранний доступ к новым моделям друг друга – примерно за одну или две недели до публичного выпуска. За это время специалисты проверяли бы систему и сообщали о возможных уязвимостях.
Маск считает, что такой подход может оказаться эффективнее исключительно государственного контроля. Чиновникам без глубокого технического опыта сложно определить, представляет ли новая модель серьезную угрозу.
Специалисты из конкурирующих лабораторий лучше понимают возможности передовых систем и способны быстрее обнаружить потенциальные проблемы.
Дополнительным преимуществом системы становится совпадение коммерческих и общественных интересов. Компании заинтересованы в том, чтобы внимательно проверять продукты конкурентов и указывать на риски, которые могут потребовать переноса релиза.
Если разработчик проигнорирует выявленную угрозу, информация должна передаваться государственным органам. В таком случае регулятор получит основание вмешаться и потребовать устранения проблемы до публикации модели.