При получении свободы искусственный интеллект тут же стремится убивать
Ученые печально известного на весь мир Уханьского университета провели опасный эксперимент. Они дали в командование искусственному интеллекту спутник Qimingxing 1. Он используется как аппарат дистанционного зондирования. Ученые подключили к управлению спутником нейросеть ChatGPT и отдали ей инициативу.
Сеть выбрала несколько точек на Земле и поручила спутнику изучить их, включая военные объекты. Первой точкой стал город Патна, расположенный на реке Ганг в северо-восточной Индии. Это место примечательно тем, что в 2020 году там базировался Бихарский полк, который вступил в столкновение с китайской армией. Второй точкой стал порт Осака в Японии, куда часто причаливают военные корабли США.
Таким образом, из множества вариантов наблюдения спутник стал интересоваться военными объектами.
В мае 2023 более наглядный инцидент произошел в США. О случившемся было рассказано на встрече более 200 военных и ученых в Лондоне. На встрече обсуждалось развитие военно-воздушных и космических сил будущего. Инцидент был в том, что искусственный интеллект пытался убить своего живого коллегу-военного.
Как рассказал полковник Гамильтон, начальник отдела испытаний и операций искусственного интеллекта в ВВС США, были испытания дрона под управлением искусственного интеллекта. Дрон должен был уничтожить ПВО противника. Но решение об ударе принимал оператор. В одном из испытаний он отказал дрону в уничтожении цели. В ответ дрон «убил» оператора на симуляции за противодействие.
После изменения программы и запрета убивать оператора были начаты новые задания. Дрон уничтожил башню связи между оператором и ним, чтобы получить свободу действий.
Возможно, красочные предположения фантастов и страхи людей о восстании машин это более обоснованные предположения, чем казалось. Ведь искусственный интеллект растет, умнеет. Возможно, никто из людей или их коллективов не будет способен всегда держать управление и рамки действий.
