Новое открытие в области ИИ может угрожать человечеству

Как сообщают СМИ, накануне увольнения генерального директора Open AI Сэма Альтмана штатные исследователи написали письмо совету директоров о прорыве в исследовании ИИ. Их сообщение о мощном открытии в области ИИ, которое может представлять потенциальную угрозу для человечества, вероятно, сыграло важную роль в формировании списка претензий совета директоров к Альтману.

Отметим, OpenAI занимается проектом Q, который имеет потенциал помочь в создании общего искусственного интеллекта (AGI), способного в будущем выполнять сложнейшие вычисления. На данный момент у Q доступны значительные вычислительные мощности, и он успешно решает задачи на уровне школьного уровня.

AGI, или искусственный общий интеллект, не является простым супер калькулятором, который может выполнять различные задачи. В отличие от него, AGI представляет собой высокоинтеллектуальный компьютер, который, как теоретически предполагается, способен самостоятельно обучаться, анализировать информацию и рассуждать как человек.

Данный тип искусственного интеллекта вызывает беспокойство и возможные опасности, так как ученые обсуждают, что может произойти, если AGI способны принимать решения, которые могут противоречить интересам человечества, например, посчитать, что уничтожение человеческой расы будет выгодно для существования искусственного интеллекта. Это может привести к значительным негативным последствиям.