Сейчас все проблемные вопросы, касающиеся ИИ, не выходят в публичную плоскость из-за соглашений конфиденциальности.
Бывшие и нынешние сотрудники OpenAI, Google DeepMind и Anthropic подписали коллективное письмо с призывом создать каналы отчетности, чтобы свободно высказывать свои опасения по поводу развития ИИ-технологии — как внутри этих компаний, так и за их пределами. Подписи под документом поставили 13 человек, семь из которых указали свои имена.
В письме говорится, что сегодня только сотрудники компаний, занимающихся технологиями ИИ, могут заставить крупные корпорации отчитываться за разработки, поскольку эффективного госнадзора за такими организациями нет.
Эксперты отмечают, что подобная бесконтрольность может привести к полному исчезновению человечества из-за потери контроля над автономными системами ИИ.
В настоящее время все проблемные вопросы, касающиеся ИИ, не выходят в публичную плоскость – сотрудники компаний связаны соглашениями о конфиденциальности, а также страхом перед ответными действиями руководства за разглашение информации.
Призыв ученых поддержали Йошуа Бенджио, Стюарт Рассел и Джеффри Хинтон. Последний в 2023 году ушел из Google, чтобы открыто предупреждать общество о рисках, связанных с использованием искусственного интеллекта.
В OpenAI заявили, что согласны с необходимостью государственного регулирования и отметили важность «активных дискуссий».