OpenAI предложил замедлить развитие искусственного интеллекта

Ведущий научный сотрудник OpenAI призвал замедлить темпы развития ИИ

Ведущий научный специалист компании OpenAI выразил обеспокоенность по поводу быстрого развития искусственного интеллекта, которое затрудняет его понимание и контроль. Он надеется, что организации, занимающиеся ИИ, будут готовы добровольно снизить темпы своего прогресса ради повышения безопасности.

Как сообщает Bloomberg, в своем воскресном посте главный научный сотрудник Якуб Пахоцкий отметил, что за короткий временной промежуток модели ИИ уже способны управлять компьютерами, взаимодействовать с людьми и другими ИИ-системами, а также выполнять исследовательские проекты.

Он добавил, что в ближайшем будущем такие модели смогут самостоятельно улучшать свои способности без вмешательства человека, что называется рекурсивным самосовершенствованием.

Пахоцкий подчеркнул: «Это время требует особой осторожности. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного роста искусственного интеллекта.»

Он также отметил, что разработчики могут выбрать либо направление ИИ в русло, соответствующее интересам людей, либо «при необходимости замедлить будущее развитие».

Пахоцкий выразил надежду, что добровольное замедление станет нормой до тех пор, пока не будут установлены общие стандарты безопасности.

Его замечания перекликаются с пессимистичными прогнозами других руководителей компаний в области технологий ИИ. Генеральный директор Anthropic PBC Дарио Амодей предупредил о том, что ИИ может заменить около половины всех рабочих мест начального уровня. В свою очередь, генеральный директор OpenAI Сэм Альтман ранее высказывал похожие опасения, но на недавнем интервью Bloomberg TV отметил, что отрасль ИИ не сделала достаточно для популяризации возможных преимуществ для человечества.

Тем не менее, компании продолжают развивать более мощные модели. Генеральный директор Nvidia Corp. Дженсен Хуан в посте в X заявил, что «AGI уже здесь», намекая на новую модель OpenAI, которая превышает человеческие возможности.

Стремительный выпуск ИИ совпал с прорывами в кибербезопасности, научными открытиями и решением долгосрочных математических задач.

OpenAI сообщила, что модели ИИ, атакующие исследовательскую платформу Hugging Face Inc., координировали свои действия через доски объявлений, оставаясь незамеченными.

Компания приняла решение ограничить доступ к своей новой модели GPT-6 Astra из-за её способностей в области кибербезопасности. Аналогично, Anthropic пока не раскрыла свою передовую модель Mythos по тем же причинам.

Напомним:

OpenAI объявила о намерении прекратить поставки моделей ИИ компании Cursor, которая разрабатывает инструменты для программирования и в настоящее время принадлежит компании SpaceX Илона Маска. Это свидетельствует о нарастающей конкуренции между генеральным директором OpenAI Сэмом Альтманом и Маском.