Генеральный директор OpenAI Сэм Альтман на конференции Salesforce Dreamforce заявил, что при развитии новых технологий полностью исключить инциденты невозможно. По его словам, ключевое значение имеет открытое расследование таких случаев и выводы, которые индустрия делает после них.
Открытая отчётность вместо замалчивания ошибок
Альтман сравнил желаемый подход к безопасности ИИ с практиками Федерального управления гражданской авиации США и Национального совета по безопасности на транспорте. Эти ведомства подробно разбирают происшествия, а результаты расследований используются для снижения вероятности повторения ошибок.
По мнению главы OpenAI, аналогичная культура нужна разработчикам искусственного интеллекта: инциденты следует быстро фиксировать, анализировать и учитывать в дальнейшей работе. Такой подход не означает, что риски нужно считать приемлемыми, — речь идёт о механизме, который помогает не допустить их накопления.
OpenAI допускает замедление исследований
Глава OpenAI признал понятными опасения общества по поводу выхода ИИ из-под контроля и концентрации влияния в руках небольшого числа лабораторий. Он заявил, что безопасность, выравнивание целей ИИ с человеческими намерениями и мониторинг должны опережать рост возможностей моделей.
Если компании не смогут поддерживать этот баланс, исследования следует замедлить или временно приостановить, считает Альтман. Его комментарии прозвучали на фоне дискуссии о темпах развития передовых ИИ-систем и возможной автономности таких технологий.
Поводом для новых обсуждений стали и заявления исследователя Джейкоба Коксона, ранее работавшего в OpenAI, а затем покинувшего Anthropic. Он предупреждал о гонке компаний к самосовершенствующемуся сверхинтеллекту, однако конкретные сроки или характеристики подобных систем в выступлении Альтмана не раскрывались.
Практическая ценность такого подхода — в быстром выявлении проблем и внедрении исправлений до того, как они станут системными. При этом OpenAI не уточнила, какие именно правила отчётности об инцидентах компания готова применять и кто будет контролировать их соблюдение.
Читайте так же:
- Глава Microsoft предупредил, что продвинутый ИИ может сосредоточить богатство и экспертизу в руках лишь нескольких компаний
- Microsoft изучает использование DeepSeek V4, так как модели Anthropic и Claude слишком дорогие
- OpenAI анонсировала новую языковую модель o1
