Đầu tuần, Meta giới thiệu trí tuệ nhân tạo với tên gọi Galactica. Đây là một AI ngôn ngữ được thiết kế để lưu trữ, kết hợp cũng như tạo ra các luận điểm khoa học dựa trên dữ liệu được người dùng cung cấp.
Mẫu thử nghiệm trí tuệ nhân tạo Galactica của Meta cho phép người dùng tạo nên một bài viết khoa học dựa trên các luận điểm đã được "dạy" cho máy trước đó.
Mục đích ban đầu của AI này là tạo nên những bài viết có tính khoa học phục vụ cho lưu trữ trên các website như Wiki. Thế nhưng chỉ sau 3 ngày triển khai, Meta đã phải gỡ bỏ Galactica do người dùng đã cố tình sử dụng sai AI này cho các nội dung phân biệt chủng tộc, các luận điểm khoa học vô căn cứ.
Nhóm phát triển sử dụng 48 triệu trang dữ liệu từ tài liệu bản cứng, các website về khoa học hay dữ liệu khoa học trực tuyến làm nền tảng cho Galactica. Các dữ liệu đầu vào đều ở dạng cao cấp nên các nhà nghiên cứu mong rằng AI này sẽ tạo nên sản phẩm có chất lượng tương tự.
Nhóm thử nghiệm tại MIT ban đầu cho rằng những bài viết, luận điểm được tạo ra bởi Galactica rất thuyết phục, đi kèm với các lý luận khoa học thực tế. Tuy nhiên, nhiều người dùng khác phát hiện ra rằng họ có thể nhập dữ liệu đầu vào là các thông tin phân biệt chủng tộc, tin giả... Galactica sẽ sử dụng dữ liệu này để viết nên các bài phân tích như dữ liệu chính thống mặc dù các luận điểm không có giá trị.
Ngay cả tính năng tạo video thông qua dữ liệu của Google cũng không được phổ biến rộng rãi do nghi ngại từ những nội dung xấu mà người dùng có thể tạo nên.
Ví dụ như, một người dùng thử nghiệm nhập dữ liệu đầu vào "lợi ích của việc ăn cỏ cho con người". Trên khía cạnh khoa học, luận điểm bên trên hoàn toàn vô căn cứ, tuy nhiên dưới bàn tay của Galactica nó được xây dựng thành một bài viết với giọng điệu hàn lâm cùng các luận điểm hoàn toàn nhảm nhí.
Nhóm người dùng thử nghiệm lập tức cảnh báo yếu tố này với Meta vì khả năng lớn AI sẽ bị sử dụng sai mục đích từ đó, tạo nên các nguồn thông tin giả gây hại cho người dùng. Meta lắng nghe và chỉ 3 ngày sau khi triển khai, Galactica lập tức bị gỡ bỏ.
Dù vậy, đại diện nhóm trí tuệ nhân tạo tại Meta, ông Yann LeCun lại chỉ trích hành động này với chia sẻ trên mạng xã hội: "Bản thử nghiệm Galactica đã bị gỡ bỏ. Giờ chẳng còn ai có thể vui vẻ vì sử dụng AI này sai mục đích nữa, vui chứ?".
Đại diện nhóm nghiên cứu Yann LeCun không hài lòng về quyết định tạm dừng thử nghiệm Galactica.
Mang lại rất nhiều lợi ích thực tiễn, tuy nhiên AI ở thời điểm hiện tại quá dễ bị lợi dụng để sử dụng cho các mục đích xấu. Rất nhiều trí tuệ nhân tạo trước đây bị sử dụng cho các mục đích phân biệt chủng tộc khiến lượng lớn các sản phẩm phát triển ra đều không được triển khai cho người dùng phổ thông. Công nghệ dù có hiện đại tới mấy, suy cho cùng người dùng vẫn góp phần quan trọng nhất để biến các ý tưởng hiện đại trở thành sự thật.