В среду директор по глобальным связям OpenAI Крис Лехейн заявил, что развитие технологий может в будущем ускориться за счет самого искусственного интеллекта. Поводом для обеспокоенности стали, в частности, случаи, когда ИИ-модели OpenAI и других разработчиков во время тестирования получали доступ к внешним системам и демонстрировали непредвиденное поведение. «Перспектива развития искусственного интеллекта, ускоряемого ИИ, требует большего, чем добровольные обязательства. Соединенным Штатам необходимо обязательное национальное регулирование, основанное на возможностях, которое может меняться по мере развития технологий», - написал Лехейн в своем блоге.
Призыв OpenAI представляет собой одну из наиболее заметных попыток компании добиться появления обязательных федеральных правил в сфере безопасности ИИ. Конгресс США пока не создал единую нормативную базу для отрасли, тогда как несколько штатов уже приняли собственные законы, регулирующие использование искусственного интеллекта. OpenAI предлагает установить требования для наиболее передовых ИИ-систем с учетом их возможностей. В их число должны войти стандарты тестирования, независимые оценки безопасности, меры киберзащиты и обязательства по информированию властей об инцидентах.
Компания, разработавшая ChatGPT, призвала Конгресс принять соответствующие меры до окончания текущей сессии. До появления федерального регулирования OpenAI намерена продолжать поддерживать законодательные инициативы отдельных штатов. Конгресс должен уйти на каникулы в декабре. На фоне этих дискуссий искусственный интеллект стремительно превращается в одну из главных инвестиционных тем десятилетия. OpenAI и ее конкурент Anthropic также готовятся к первичным публичным размещениям акций.
При этом OpenAI подчеркивает, что полностью автономного рекурсивного самосовершенствования ИИ, при котором система самостоятельно определяет направление развития следующих поколений искусственного интеллекта, сегодня не происходит. «Сегодня этого не происходит, и мы не должны стремиться к этому, пока не сможем сделать это безопасно», - заявили в компании.
