Ảnh: TECHCRUNCH

Theo trang tin Techcrunch, phần mềm AI này có khả năng rà quét tất cả các nội dung người dùng đưa lên mạng xã hội, từ đó phát hiện những dấu hiệu hé lộ ý nghĩ muốn tự tử của người dùng.

Trong một số trường hợp cần thiết, Facebook sẽ gửi tới những tài khoản người dùng có nguy cơ cao các nguồn thông tin hỗ trợ sức khỏe tâm thần hoặc cảnh báo thông tin tới bạn bè họ hay những lực lượng hữu trách tại địa phương.

Bằng cách sử dụng AI để sớm phát hiện những nội dung lo ngại và thông báo tới các nhân viên điều phối của mạng xã hội Facebook thay vì chờ thông tin cảnh báo từ người dùng, Facebook hy vọng rút ngắn thời gian mạng xã hội này có thể can thiệp tích cực vào một tình huống liên quan tới tính mạng con người.

Trước đây Facebook từng thử nghiệm công nghệ sử dụng AI để phát hiện những nội dung có nguy cơ của người dùng, đặc biệt là nội dung cho thấy người dùng có ý nghĩ muốn tự tử để cảnh báo tới bạn bè của họ ở Mỹ.

Nhưng nay Facebook sẽ triển khai công nghệ này trên phạm vi toàn cầu, rà quét mọi loại nội dung xuất hiện trên mạng xã hội này bằng công nghệ AI, ngoại trừ tại Liên minh châu Âu vì pháp luật của khu vực này không cho phép Facebook tiến hành việc rà quét nội dung đó.

Công nghệ AI của Facebook cũng sẽ ưu tiên đặc biệt với các nội dung có tính nguy cơ và bức thiết của người dùng và chúng sẽ mau chóng được các nhân viên điều phối của mạng xã hội này xử lý.

TTO – Các nhà nghiên cứu hy vọng điều này sẽ giúp giảm thiểu hành động đáng buồn của con người.

Trước thông tin này của Facebook, công luận cũng dấy lên những nghi ngại về khả năng mạng xã hội này có thể sử dụng công nghệ AI của họ vào cả những hoạt động rà quét phục vụ mục đích khác.

Facebook vẫn chưa phản hồi về việc họ sẽ tránh hoạt động rà quét các nội dung bất đồng chính trị hay các hành vi phạm tội như thế nào.

Trong một thông báo ngắn gọn trên Twitter về vấn đề này, ông Alex Stamos, giám đốc an ninh của Facebook, khẳng định mạng xã hội này sẽ hành xử một cách có trách nhiệm trong việc sử dụng công nghệ AI.