Sự cố ngừng hoạt động của Facebook cho thấy Al ngày càng tinh vi

Nguyễn Trang (Business Insider)

CEO Facebook, Mark Zuckerberg

Sự cố mất hình ảnh trên Facebook, Instagram và WhatsApp cho thấy phía sau cách AI của Facebook xem ảnh của bạn.

Việc ngừng hoạt động, bắt đầu vào thứ Tư và ảnh hưởng đến 1,5 tỷ người dùng hoạt động hàng ngày của Facebook và khiến Instagram hoàn toàn không sử dụng được.

Mạng xã hội này đã dừng tải hình ảnh và để lại các mô tả trên vị trí ảnh như: “hình ảnh có thể chứa: bàn, cây, hoa, và hình ảnh ngoài trời “và” hình ảnh có thể chứa: cây, bầu trời. “

Đây là thứ mà rất nhiều người đã thấy trên Facebook, Instagram và WhatsApp thay vì ảnh thật của họ

Những mô tả hoặc các tags này cho thấy cách trí tuệ nhân tạo của Facebook diễn giải hình ảnh.

Trên Twitter, mọi người đã chia sẻ ảnh chụp màn hình về cách ảnh của họ được gắn thẻ. “Công bằng mà nói, ‘một người, râu’ gần như là một mô tả chính xác về tôi,” Zack Whittaker, một biên tập viên tại TechCrunch, đã viết.

Vậy, chuyện gì đang xảy ra?

Facebook tự động quét tất cả các bức ảnh trên mạng xã hội bằng phần mềm nhận diện khuôn mặt và hình ảnh được cung cấp bởi AI để phát hiện ai hoặc những gì đang được chụp.

Việc này được sử dụng trong các nỗ lực tiếp cận của công ty để mô tả ảnh cho những người mù hoặc khiếm thị, và những người đang truy cập trang web thông qua trình đọc màn hình.

Nói tóm lại, Facebook sử dụng học máy để tự động giải thích ảnh, sau đó đọc to phần giải thích này cho người dùng khiếm thị. Việc mất hình ảnh cũng đồng nghĩa với việc chúng ta cũng nhìn thẳng vào những diễn giải đó.

Đôi khi, có vẻ như AI đã gắn thẻ không chính xác vào bức ảnh, như trong trường hợp của phóng viên tạp chí Fortune, Danielle Abril, mô tả bức ảnh có nội dung: “5 người, có cả Danielle Abril, người đang cười, người đang đứng, cuốc và bên trong nhà.” Hy vọng rằng có một công cụ làm vườn trong bức ảnh – chúng tôi đã đưa tay chạm vào Abril nhưng không nghe thấy gì ngay sau đó.

Mặc dù có thể có một lời giải thích nhẹ nhàng ở đây, nhưng nó vẫn là một lời nhắc nhở rõ ràng về việc Facebook đang thu thập bao nhiêu dữ liệu, ngay cả khi chúng ta không nhận ra điều đó đang xảy ra. Nhờ công nghệ AI ngày càng tinh vi, Facebook thậm chí có thể thu thập thông tin từ một thứ vô hại như bức ảnh chụp một kỳ nghỉ.

“Khi một thứ gì đó dễ đọc, dĩ nhiên, việc lưu trữ, phân tích và trích xuất dữ liệu sẽ trở nên dễ dàng. Chỉ đến khi hệ thống bị hỏng, như hôm nay, chúng ta mới nhận ra điều đó đang xảy ra”, James Vincent của The Verge, viết.