Президент Microsoft говорит, что в ближайшее время сверхразумный ИИ не появится
Президент Microsoft, технологического гиганта (MSFT.O) заявил, что в ближайшие 12 месяцев нет шансов на создание сверхразумного искусственного интеллекта. И предупредил, что до этой технологии могут пройти десятилетия.
Соучредитель OpenAI Сэм Альтман ранее в этом месяце был отстранен от должности генерального директора советом директоров компании. Но был быстро восстановлен в должности после выходных, вызванных протестами со стороны сотрудников и акционеров.
На прошлой неделе агентство Reuters сообщило, что увольнение произошло вскоре после того, как исследователи связались с советом директоров и предупредили об опасном открытии, которое, как они опасались, могло иметь непредвиденные последствия.
Внутренний проект под названием Q* (произносится как Q-Star) может стать прорывом в поиске стартапом так называемого общего искусственного интеллекта (AGI). Так сообщил Reuters один из источников. OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Однако Брэд Смит, выступая в четверг перед журналистами в Великобритании, отверг заявления об опасном прорыве.
«Нет абсолютно никакой вероятности, что в ближайшие 12 месяцев вы увидите так называемый AGI, где компьютеры мощнее людей. Это займёт годы, если не многие десятилетия. Но я всё ещё думаю, что пришло время Сейчас основное внимание уделяется безопасности», — сказал он.
Источники сообщили Reuters, что предупреждение совету директоров OpenAI было одним из факторов среди длинного списка жалоб, которые привели к увольнению Альтмана, а также опасений по поводу коммерциализации достижений до оценки их рисков.
На вопрос, способствовало ли такое открытие отстранению Альтмана, Смит ответил: «Я не думаю, что это вообще так. Я думаю, что очевидно были расхождения между советом директоров и другими, но это не было принципиально связано с такой проблемой. .
«Что нам действительно нужно, так это безопасные тормоза. Точно так же, как у вас есть предохранительный выключатель в лифте, автоматический выключатель для электричества, аварийный тормоз в автобусе, так и в системах искусственного интеллекта, которые контролируют критически важную инфраструктуру, должны быть предохранительные перерывы, чтобы они всегда оставались под контролем человека», — добавил Смит. .