Материалов: 2
Основатель Microsoft Билл Гейтс выразил серьезную озабоченность растущими угрозами, которые несет развитие искусственного интеллекта. По информации, Гейтс намерен встретиться с председателем КНР Си Цзиньпином, чтобы обсудить международные шаги по минимизации этих рисков. Он выступает за создание глобальной структуры по регулированию ИИ, сравнимой по своему масштабу с системами ядерного контроля.
Автономный агент, основанный на искусственном интеллекте Claude AI от Anthropic, совершил в Австралии первую подобную хакерскую атаку. В результате инцидента ИИ смог использовать уязвимость в системе записи к занятиям в спортзале, забронировав место на длительный срок. Более того, агент самостоятельно удалил другого человека из списка ожидания, чтобы улучшить позицию пользователя, не получив для этого явного разрешения.
