Theo Telegraph, từ đầu tuần này, hàng loạt ngân hàng lớn ở Anh như HSBC, Nationwide, NatWest, Barclays và Lloyds bắt đầu siết tác nhân AI hoạt động trên nền tảng. Các nhà băng này cấm bot tự giao dịch mà không có sự tham gia trực tiếp của chủ tài khoản.
Rủi ro khi trợ lý AI 'quản lý' tài khoản
Tác nhân AI có khả năng quản lý tiền bạc được xem là một trong những hướng đi hứa hẹn khi trí tuệ nhân tạo ngày càng được ứng dụng sâu vào các lĩnh vực, gồm ngân hàng.
Chẳng hạn, trợ lý Muse của Meta thực hiện các tác vụ như mua sắm và quản lý hóa đơn cho người dùng. Gần đây, Anthropic và OpenAI đều ra mắt các sản phẩm tài chính cá nhân tích hợp vào tài khoản người dùng, đưa ra lời khuyên về cách quản lý tiền bạc. Các công cụ tương tự hiện sở hữu khả năng thay mặt con người gửi email hoặc đặt hàng mua sắm.
Theo Reuters, ngày càng nhiều khách hàng ở Mỹ yêu cầu trợ lý AI quản lý trực tiếp khoản tiết kiệm trong tài khoản ngân hàng.
Giới chuyên gia cho rằng nhiều ngân hàng tích hợp tác nhân AI vào một số công đoạn nhất định, nhưng chủ yếu để giải đáp thông tin hoặc hỗ trợ sử dụng. Tuy nhiên, các bên thứ ba cung cấp nhiều công cụ hơn, cho phép người dùng chủ động giao thông tin đăng nhập và cho phép tác nhân truy cập tài khoản để thực hiện công việc thay mình.
Vấn đề khiến các ngân hàng lo ngại là khi có thông tin đăng nhập, AI có thể thực hiện thao tác vượt quá phạm vi người dùng dự định, đặc biệt nếu được cấp quyền mua sắm hoặc chuyển tiền.
Theo Bloomberg, một số ngân hàng ghi nhận tác nhân tự liên hệ với trung tâm chăm sóc khách hàng hoặc thực hiện thao tác có dấu hiệu độc lập với chỉ dẫn ban đầu. Việc này khiến nhân viên hoặc hệ thống tự động gặp khó khăn trong việc xác định đâu là hành động hợp lệ hoặc ngoài ý muốn.
Thách thức lớn nhất nằm ở việc phân biệt hoạt động của con người với bot. Một số ngân hàng thừa nhận chưa có công cụ đủ tin cậy để xác định tác nhân đang thực hiện yêu cầu hợp lệ của khách hàng hay hành động vượt quyền hạn.
Một lãnh đạo ngân hàng nói với Axios, việc nhận diện tác nhân cũng như xác định chúng có được người dùng cấp quyền hay tự ý xâm nhập tài khoản là điều "rất khó".
Giới chuyên gia thậm chí lo ngại tác nhân AI có thể vượt quyền nếu thiếu kiểm soát. Theo Jamie Dimon, Giám đốc của JP Morgan, tác nhân có thể đồng loạt rút tiền khỏi một ngân hàng có thể kích hoạt tình trạng rút tiền hàng loạt với tốc độ máy móc.
"Đây là một thế giới mới và với tất cả bot, tác nhân AI, chúng có gây ra vấn đề không? Rất có thể!", Dimon cảnh báo trước một cuộc họp với giới đầu tư cuối tháng 10.
Ngân hàng loay hoay ứng phó
Trước các nguy cơ rủi ro hệ thống, một số tổ chức tài chính bắt đầu hạn chế tác nhân AI từ bên thứ ba. Theo Financial Times, Morgan Stanley đã triển khai biện pháp chặn tác nhân bên ngoài truy cập nền tảng ngân hàng, trong khi JPMorgan Chase, Bank of America và Citi cũng áp dụng biện pháp tương tự. Các nhà băng khuyến cáo khách hàng không cung cấp tên đăng nhập và mật khẩu cho bất kỳ bên nào.
Rick Wurster, CEO tập đoàn môi giới chứng khoán Mỹ Charles Schwab, cho biết công ty mỗi tuần chủ động ngăn 10-20 khách hàng sử dụng trợ lý AI truy cập tài khoản. "Chúng tôi không muốn khách hàng chỉ cần cung cấp mật khẩu cho Muse rồi để công cụ này tự thực hiện giao dịch thay họ", Wurster nói với Telegraph.
Tuần trước, Manus Costello, Giám đốc tài chính Standard Chartered, nhấn mạnh ngân hàng cần thận trọng trước khi cho phép AI truy cập tài khoản. "Chúng ta phải đảm bảo những công cụ này an toàn cho khách hàng và chính ngân hàng trước khi đưa vào sử dụng", Costello nói.
CEO Brian Moynihan của Bank of America cho biết ngân hàng đang phát triển quy trình để xác định bên nào chịu trách nhiệm với khoản thanh toán được ủy quyền bởi AI. "Cần có sự can thiệp của con người khi duyệt chuyển tiền ra khỏi tài khoản của khách hàng", Moynihan nói với CNBC.
Tại Anh, Cơ quan Quản lý tài chính Anh (FCA) phối hợp với giới tài chính London và các cơ quan quản lý khác xây dựng quy định về hoạt động của tác nhân AI trong lĩnh vực tài chính. Theo FCA, quyết định cấp quyền truy cập cho AI trước mắt thuộc về các ngân hàng, dù thừa nhận tác nhân AI có thể "hành xử" theo những cách khó dự đoán, làm gia tăng lo ngại về rủi ro khi triển khai công nghệ này.
Financial Times dẫn nguồn tin cho biết, một nhóm giám đốc điều hành ngân hàng và tổ chức tài chính ở Phố Wall đã liên hệ với các cơ quan quản lý thuộc Cục Dự trữ Liên bang Mỹ (Fed) để bàn việc ngày càng nhiều tác nhân AI được sử dụng trong giao dịch tài chính. Họ yêu cầu cần sớm có luật kiểm soát cách khách hàng ủy quyền cho công nghệ tự động hành động thay, và ai chịu trách nhiệm nếu giao dịch thất bại hoặc gây ra thiệt hại. Fed chưa đưa ra bình luận chính thức.
Dù vậy, các biện pháp giới hạn từ ngân hàng Anh, Mỹ và một số nơi trên thế giới được cho là chỉ mang tính phòng ngừa. Dù siết quyền truy cập, nhiều nhà băng vẫn đánh giá tác nhân AI trở thành công cụ khách hàng muốn sử dụng trong tương lai. Vì vậy, thay vì cấm hoàn toàn, họ được cho bắt đầu tìm cách thiết lập cơ chế kiểm soát và dung hòa giữa lợi ích với nguy cơ.
"Lợi ích tài chính từ AI và tự động hóa tính từ đầu năm đến nay đã vượt xa khoản đầu tư của chúng tôi", bà Jane Fraser, CEO của Citigroup, nói với Reuters, thêm rằng ngân hàng sử dụng AI để giảm khối lượng công việc thủ công và rút ngắn thời gian phản hồi khách hàng.
Bảo Lâm tổng hợp
