Перед решением уволить гендиректора OpenAI Сэма Альтмана совет директоров получил от сотрудников письмо, в котором говорилось о «мощном открытии», которое, по их словам, может угрожать человечеству. Об этом со ссылкой на источники внутри компании пишет Reuters.
По их словам, речь идет о прорыве в создании всеобщего искусственного интеллекта (AGI), который может понимать окружающую среду как человек и выполнять любые интеллектуальные задачи. Соответственно, обучаясь, AGI может превзойти человека в решении большинства таких задач.
Агентству Reuters не удалось просмотреть копию письма. OpenAI и сотрудники, написавшие письмо, не ответили на просьбу о комментариях.
Однако один из собеседников агентства сказал, что во внутреннем сообщении руководство признало наличие письма и работу над проектом Q* (Q-Star). По словам другого собеседника, Q* способен решать математические задачи, хотя пока его способности находятся на уровне учащихся начальных классов. Однако это внушает исследователям «большой оптимизм относительно будущих успехов проекта».
В настоящее время инструменты для вычислений используют алгоритмы и могут выполнять ограниченное количество операций. Освоение математики предполагает, что ИИ будет иметь способности к размышлению, то есть сможет обобщать, учиться и понимать. Это может помочь в научной деятельности.