Thất bại mới nhất của Meta gọi tên mô hình máy tính xử lý ngôn ngữ - trợ lý ảo Galactica

Ngoài việc sở hữu những trang mạng xã hội lớn như Facebook hay Instagram,... Meta còn đồng thời phát triển nhiều thứ khác để phục vụ cho tham vọng xây dựng vũ trụ riêng ảo của riêng mình. Tuy nhiên, đến thời điểm hiện tại, công ty mẹ của Facebook đang gặp rất nhiều khó khăn, thất bại mới nhất gần đây gọi tên Galactica. “Trợ lý ảo” mới của Meta bị gỡ xuống chỉ sau vài ngày ra mắt. 

Trợ lý ảo Galactica là gì?

Mới đây, vào ngày 15/11, một số thông tin liên quan tới mô hình máy tính xử lý ngôn ngữ mới có tên là Galactica, được tạo ra để hỗ trợ tìm kiếm và xử lý tài liệu khoa học đã được Meta tiết lộ. 

Trợ lý ảo Galactica có teher thống kê số liệu, tóm tắt văn bản giúp các nhà khoa học 

Về cơ bản, trợ lý ảo Galactica được đào tạo dựa trên 48 triệu ví dụ về các bài báo khoa học, trang web, sách giáo khoa, ghi chú bài giảng và bách khoa toàn thư. Meta quảng cáo đây là một trợ thủ xử lý tư liệu cho các nhà nghiên cứu và sinh viên, thay thế các công cụ tìm kiếm thông thường. “Galactica có thể tóm tắt các bài báo học thuật, giải các bài toán, tạo các bài báo trên Wiki, tạo chú thích...”, công ty này cho biết.

Nhiều lỗ hổng lớn

Tuy nhiên, chỉ hai ngày sau đó, thay vì một bước tiến lớn cho giới khoa học như Meta hy vọng, Galactica đã bị chỉ trích dữ dội. Ngày 17/11, công ty gỡ bỏ bản demo công khai. Galactican không thể phân biệt thật giả, một yêu cầu cơ bản đối với một mô hình ngôn ngữ được thiết kế để xử lý văn bản khoa học.

Galactican bị chỉ trích vì không thể phân biệt thông tin thật, giả

Người dùng phát hiện nó đã tạo ra tin giả, chẳng hạn như một trang Wiki về lịch sử của loài gấu trong vũ trụ. Vì quá hoang đường, tin giả này dễ bị phát hiện, nhưng các chủ đề thực tế hơn có thể gây hiểu nhầm.

Top những chiếc điện thoại giá rẻ đáng mua nhất 2022: Tại đây! 

Thông tin không đáng tin cậy

Gary Marcus, nhà khoa học nhận thức tại Đại học New York, đưa ra quan điểm tương tự trong một bài đăng trên Substack, nói rằng khả năng của các mô hình ngôn ngữ chỉ là dùng xác suất thống kê để mô phỏng lại các mẫu hình thường thấy trong văn bản do con người tạo ra. 

Tuy nhiên, Meta không phải là công ty duy nhất ủng hộ ý tưởng rằng các mô hình ngôn ngữ có thể thay thế các công cụ tìm kiếm. Trong vài năm qua, Google cũng đã quảng bá mô hình ngôn ngữ PaLM của mình như một cách để tra cứu thông tin. 

Vào năm 2016, Microsoft đã ra mắt một chatbot có tên là Tay, và gỡ xuống 16 giờ sau đó khi người dùng phát hiện trợ lý này đã trở thành một chatbot phân biệt chủng tộc và kỳ thị đồng tính do đầu vào dữ liệu. Bây giờ, Meta lặp lại sai lầm với Galactica. 

Kết luận 

Về cơ bản, Meta đã có một ý tưởng tốt trong việc tối ưu hóa một công cụ giúp việc làm khoa học trở nên đơn giản hơn. Tuy nhiên, ở thời điểm hiện tại có lẽ vẫn còn sớm để Galactica có thể làm nên điều gì quá đặc biệt. Bạn nghĩ sao về những vấn đề trên? Hãy để lại ý kiến bên dưới để chúng mình cùng biết nhé!