Глава OpenAI Сэм Альтман заявил, что общество должно быть готово принять часть рисков, связанных с искусственным интеллектом, ради его потенциальной пользы и большей свободы пользователей. Эти слова прозвучали в подкасте Politico Decoded и уже вызвали критику со стороны исследователей и пользователей.
OpenAI предлагает не исключать все риски
В разговоре о подходах OpenAI и Anthropic к безопасности и регулированию Альтман высказался в пользу менее жёстких ограничений. По его мнению, по мере распространения ИИ неизбежны взломы, мошенничество и другие случаи злоупотребления технологией.
Он считает, что потенциальная польза от ИИ будет существенно превышать ущерб. Альтман пояснил, что не выбрал бы сценарий с полным исключением крупных взломов, мошенничества и других негативных последствий, если ценой этого станет отказ от возможностей, которые технология может дать людям.
При этом глава OpenAI разделил обычные риски и катастрофические сценарии. К последним он отнёс ситуацию, при которой человечество может утратить контроль над системами искусственного интеллекта. Такие угрозы, по его словам, требуют значительно более осторожного подхода.
Критика позиции Альтмана
Высказывание прозвучало на фоне дискуссий о последствиях внедрения ИИ: возможном сокращении рабочих мест, потреблении электроэнергии и воды дата-центрами, спорах об авторских правах и киберпреступности.
Почётный профессор Нью-Йоркского университета Гэри Маркус раскритиковал позицию Альтмана, увидев в ней предложение смириться с негативными эффектами ради усиления влияния и доходов технологических компаний. В сети также усомнились, что преимущества ИИ автоматически перевесят его издержки.
Главное преимущество подхода, описанного Альтманом, — сохранение широкого доступа пользователей к возможностям ИИ без максимальных ограничений. Однако остаётся открытым вопрос, какие именно риски можно считать приемлемыми и кто будет отвечать за последствия злоупотреблений.
Читайте так же:
- Сэм Альтман: некоторых инцидентов с ИИ избежать невозможно
- Глава Microsoft предупредил, что продвинутый ИИ может сосредоточить богатство и экспертизу в руках лишь нескольких компаний
- Microsoft изучает использование DeepSeek V4, так как модели Anthropic и Claude слишком дорогие
