Нов експеримент показва как изкуствен интелект, създаден да автоматизира обработката на фактури, може лесно да бъде манипулиран чрез злонамерен имейл. Без да задейства традиционните системи за сигурност, AI агентът е бил подведен да промени банковите данни на доставчик, което подчертава сериозните рискове при внедряването на подобни технологии в бизнеса.
Компанията Token Security анализира пет основни уязвимости в сигурността на съвременните AI агенти и споделя експертни насоки от водещи специалисти в бранша. Експертите предлагат практически решения за предотвратяване на подобни кибератаки и за защита на корпоративните мрежи от неоторизирани намеси през изкуствен интелект.
Източник: BleepingComputer