Крупные банки опасаются, что агенты искусственного интеллекта могут повысить риск мошенничества и обмана

Консорциум крупнейших мировых банков опубликовал «принципы доверия» к агентной коммерции, так как агенты, уполномоченные тратить деньги клиентов, открывают новый фронт для аферистов. Шесть крупных международных банков — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group и NatWest Group — выпустили совместный документ под названием Building Trust in Agentic Commerce. В нём выражена озабоченность стремительным распространением ИИ-агентов, уполномоченных совершать покупки от имени клиентов. Об этом сообщает IXBT News.

Финансовые организации предупреждают: «потребители не понимают, будут ли ИИ-агенты действовать в их интересах», и опасаются, что «агенты купят не то, потратят слишком много или — что ещё хуже — потеряют деньги из-за мошенников».

Документ фиксирует новую категорию рисков: агентная коммерция создаёт пространство для массового фрода с иной механикой, чем традиционное интернет-мошенничество. Злоумышленники могут компрометировать или выдавать себя за ИИ-агентов и продавцов, применять новые формы социальной инженерии. Размытая ответственность за действия агента оставляет потребителя незащищённым. Отдельно банки указывают на риск лавинообразного роста числа чарджбэков и платёжных споров для продавцов.

В ответ авторы документа сформулировали пять принципов, которым, по их мнению, должны следовать разработчики агентного ИИ: прозрачность, безопасность, защита приватности и данных, свобода выбора для потребителя и совместимость между платформами. Банки настаивают, что ИИ-компании обязаны соблюдать стандарты процессинга платежей и не должны извлекать платёжные реквизиты напрямую с сайтов.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.