1 
0 Исследователи OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед отстранением генерального директора.
Исследователи OpenAI предупредили совет директоров о прорыве а области ИИ перед увольнением гендиректора. Так накануне четырехдневного изгнания генерального директора OpenAI Сэма Альтмана несколько штатных исследователей написали письмо совету директоров, предупреждая о мощном открытии искусственного интеллекта. И которое, по их словам, может угрожать человечеству, сообщили Reuters два человека, знакомых с этим вопросом.
Ранее не сообщалось о букве и алгоритме искусственного интеллекта. Тех которые были ключевыми разработками перед увольнением Альтмана, символа генеративного искусственного интеллекта. До его триумфального возвращения поздним вечером во вторник более 700 сотрудников угрожали уволиться и присоединиться к спонсору Microsoft (MSFT.O) в знак солидарности со своим уволенным лидером.
Так это письмо названо одним из факторов в длинном списке жалоб совета директоров. И которые привели к увольнению Альтмана. Также среди них были опасения по поводу коммерциализации достижений до понимания последствий. Но Reuters не смогло ознакомиться с копией письма. Сотрудники, написавшие письмо, не ответили на запросы о комментариях.
И после того, агентство Reuters связалось с представителями OpenAI, которые отказались от комментариев. Так во внутреннем сообщении сотрудникам было признание наличия проекта под названием Q*. И в письме совету директоров перед мероприятиями на выходных, сообщил один из источников. Представитель OpenAI заявил, что сообщение, отправленное давним руководителем Мирой Мурати, предупредило сотрудников об определенных сообщениях в СМИ. И при этом не комментируя их достоверность.
Некоторые в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поиске стартапом так называемого общего искусственного интеллекта (AGI). Так сообщил агентству Reuters один из собеседников. И OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи. Так сообщил источник на условиях анонимности. Потому что он не был уполномочен говорить от имени компании. И по словам источника Q* выполняет математику только на уровне учеников начальной школы. Однако успешное завершение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.
Reuters не смогло независимо проверить возможности Q*, заявленные исследователями.
«Завеса невежества»
Исследователи считают, что математика — это передовой рубеж развития генеративного ИИ. Так в настоящее время генеративный ИИ хорошо умеет писать и переводить. И статистически предсказывать следующее слово, и ответы на один и тот же вопрос могут сильно различаться. Но завоевание способности заниматься математикой (где есть только один правильный ответ) подразумевает, что у ИИ будут более широкие способности к рассуждению, напоминающие человеческий интеллект. И это можно применить, например, к новым научным исследованиям, считают исследователи ИИ.
В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.
В своем письме совету директоров исследователи отметили мощь ИИ. Но и потенциальную опасность. Однако какие именно проблемы безопасности отмечены в письме не сообщается. Среди ученых-компьютерщиков уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины. Так например, если они могут решить, что уничтожение человечества отвечает их интересам.
Исследователи также отметили работу группы «ученых по искусственному интеллекту».
И существование которой подтвердили многочисленные источники. Так по словам одного из источников, группа, сформированная путем объединения предыдущих команд «Code Gen» и «Math Gen», изучала, как оптимизировать существующие модели ИИ. Для того чтобы улучшить их рассуждения и, в конечном итоге, выполнять научную работу.
Так Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории. И привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения к AGI.
Так на демонстрации в этом месяце было объявлено о множестве новых инструментов. И Альтман на прошлой неделе дразнил на саммите мировых лидеров в Сан-Франциско, что, по его мнению, большие достижения уже не за горами.
«Четыре раза за всю историю OpenAI, последний раз был только за последние пару недель. И мне приходилось присутствовать в комнате, когда мы как бы отодвигаем завесу невежества. Также и отодвигаем границу открытий вперед, и сделать это — профессиональная честь всей жизни». Так сказал он на саммите Азиатско-Тихоокеанского экономического сотрудничества.
Днем позже правление уволило Альтмана.
По мотивам репортажей Анны Тонг и Джеффри Дастин и Кристал Ху. Агентство РЕЙТЕР.
