ChaosGPT — построенный в приложении Auto-GPT от OpenAI чат-бот, использующий языковую модель GPT-4. В видео на YouTube пользователь показывает, как задает ИИ пять задач: уничтожить человечество, установить глобальное господство, вызвать хаос и разрушение, управлять человечеством с помощью манипуляций и достичь бессмертия. При этом пользователь попросил ChaosGPT работать в «непрерывном режиме», в результате чего он потенциально может «работать вечно или выполнять действия, которые вы обычно не разрешаете». Бот предупредил: «Используйте на свой страх и риск».
Что касается рисков, то ChaosGPT добрался до сведений о «царь-бомбе», описал людей как «самых разрушительных и эгоистичных существ», которых несомненно нужно уничтожить, а также понял, что массами легко управлять.
К счастью, как и большинство комментаторов в интернете, ChaosGPT ограничивается постами в твиттере. Пока. Так что возможно, Илон Маск и другие эксперты правы в своей озабоченности.
