OpenAI будет сотрудничать с Anthropic и Google для безопасности ИИ

OpenAI и конкуренты объединяют усилия для повышения безопасности ИИ

OpenAI активно работает над вопросами безопасности искусственного интеллекта в сотрудничестве с такими конкурентами, как Anthropic PBC и Google DeepMind. Это партнерство нацелено на совместное решение проблем, связанных с угрозами, которые данная технология может представлять для экономики и безопасности.

По информации Bloomberg, Крис Лехейн, возглавляющий отдел глобальной политики в OpenAI, сообщил, что это сотрудничество продолжается уже несколько недель. Он отметил, что OpenAI не считает необходимым получение антимонопольного исключения для координации действий с Anthropic и Google по вопросам безопасности.

Лехейн подчеркнул: «Лучше работать вместе, чтобы сосредоточиться на безопасности», добавив, что его выступление состоялось на брифинге в Вашингтоне.

Обеспокоенность по поводу экзистенциальных рисков, связанных с искусственным интеллектом, усилилась после выхода эссе объемом 3 800 слов, написанного генеральным директором Anthropic Дарио Амодеем. В этом эссе он призвал ограничить разработки самых современных систем, чтобы исследователи могли лучше понять потенциальные угрозы. Этот призыв нашел поддержку у Сэма Альтмана, генерального директора OpenAI, и Илона Маска, руководителя SpaceXAI.

Антимонопольные органы США проявляют скептицизм по поводу возможности предоставления исключений для компаний, занимающихся ИИ, с целью координации своих действий в области безопасности. Председатель Федеральной торговой комиссии Эндрю Фергюсон заявил, что такие запросы будут рассматриваться с «глубоким подозрением».

Он добавил, что компании в сфере ИИ, по его мнению, «пытаются создать барьеры для входа на рынок», чтобы защитить свои бизнесы от конкурентов, что он охарактеризовал как «рытье рва».

Во время брифинга Лехейн упомянул, что примеры сотрудничества компаний в области безопасности уже существуют, приводя в качестве примера авиационную отрасль. «На протяжении времени было много случаев, когда компании пытались помогать друг другу в вопросах безопасности», — отметил он.

Лехейн также сообщил, что находится в Вашингтоне для встреч с американскими законодателями и что OpenAI поддержит двухпартийные инициативы, направленные на устранение потенциальных катастрофических рисков, связанных с искусственным интеллектом.

Среди инициатив, которые поддерживает OpenAI, — концепция федерального регулирования ИИ, предложенная республиканцем Джеем Обернолтом и демократом Лори Трахан. Кроме того, компания поддерживает разработку законодательных инициатив под руководством лидера большинства в Сенате Джона Тюна, республиканца Теда Круза и демократки Эми Клобучар, направленных на предотвращение катастрофических рисков.

Напомним:

Компания Anthropic предотвратила попытки использования своих моделей Claude для проведения кибершпионских операций против Украины, которые предположительно имели связь с Россией. Ведущий научный сотрудник OpenAI выразил опасения, что стремительное развитие искусственного интеллекта делает его все более трудным для понимания и контроля, и надеется, что лаборатории, занимающиеся ИИ, добровольно замедлят темпы своего развития из соображений безопасности.