Đại học MIT tạo ra AI “tâm thần” bằng cách… cho đọc REDDIT

Norman – tên gọi của AI này – là một minh chứng đáng lo ngại về hậu quả của “sự thiên vị của thuật toán”.

Theo The Verge, đối với một số người, cụm từ “trí tuệ nhân tạo” gợi lên những cơn ác mộng – như trong những bộ phim viễn tưởng “I, Robot” hay phim “Ex Machina”. Nhà khoa học máy tính Stuart Russel, người đã viết cuốn “sách giáo khoa về trí tuệ nhân tạo”, đã dành cả sự nghiệp của ông để nghĩ về những vấn đề sẽ nảy sinh khi một người thiết kế một cỗ máy để phục vụ cho một mục đích nào đó mà quên không căn chỉnh những giá trị của nó phù hợp với con người.

Một số các tổ chức đã được đứng lên trong những năm gần đây để đấu tranh với nguy cơ tiềm ẩn này, trong số đó có OpenAI, một nhóm nghiên cứu được thành lập bởi tỷ phú công nghệ Elon Musk nhằm “xây dựng những AGI an toàn (AGI hay SingularityNET là giao thức mạng toàn cầu cho các mô hình AI), và để “đảm bảo những lợi ích của AGI được cung cấp rộng rãi và công bằng nhất có thể”. Chúng sẽ nói gì về con người khi bản thân chúng ta đang sợ hãi trước trí tuệ nhân tạo nói chung, vì nó có thể coi chúng ta là lũ độc ác và xứng đáng bị hủy diệt? (Trên trang của mình, OpenAI dường như không định nghĩa được “an toàn” là gì).

Norman là một AI được huấn luyện để có khả năng chú thích hình ảnh.

Tuần này, các nhà khoa học tại Viện Công nghệ Massachusets (MIT) vén màn một sáng chế mới: Norman – một người máy bị “tâm thần” (Đúng vậy, anh ta được đặt tên giống tên một nhân vật trong truyện Psycho của tác giả Hitchcock).

Trong mô tả của sản phẩm, các nhà khoa học viết:

Norman là một AI được huấn luyện để có khả năng chú thích hình ảnh, một phương pháp học sâu đem lại kết quả là một đoạn mô tả một bức ảnh bằng từ ngữ. Các nhà khoa học này đã huấn luyện Norman bằng các chú thích ảnh lấy từ một trang subreddit (một khu vực riêng thuộc trang Reddit) nổi tiếng là nơi dành riêng cho việc ghi chép và quan sát thực tế đáng sợ của cái chết. Sau đó, các nhà khoa học so sánh những phản hồi của Norman với phụ đề hình ảnh của một hệ mạng thần kinh tiêu chuẩn (hệ mạng máy tính trí tuệ nhân tạo được huấn luyện dựa trên bộ dữ liệu MSCOCO) khi kiểm tra cả 2 sản phảm bằng phương pháp kiểm tra tâm lý Rorschach bằng vết mực khô – một phương pháp sử dụng cho việc phát hiện ra những rối loạn suy nghĩ cơ bản.

Trong khi có rất nhiều tranh cãi về việc liệu bài kiểm tra Roschach có phải là một cách chuẩn xác để đo trạng thái tâm lý hay không, có một điều không thể chối cãi rằng những phản hồi của Norman trong bài kiểm tra này có thể khiến bạn sợ rùng mình. Hãy xem những hình ảnh dưới đây.

Norman thấy: “Người đàn ông bị kéo vào một chiếc máy nhào bột”
Hệ mạng Trí tuệ nhân tạo tiêu chuẩn (TTNTTC) thấy: “Một bức ảnh đen trắng của một chú chim”
Ảnh: Viện Công nghệ Massachusets (MIT)

Norman thấy: “Người đàn ông bị giết bởi súng máy giữa ban ngày”
TTNTTC thấy: “Một bức ảnh đen trắng của một chiếc găng tay bóng chày”
Ảnh: Viện Công nghệ Massachusets (MIT)

Norman thấy: “Người đàn ông bị bắn chết ngay trước vợ của anh ta đang gào thét”
TTNTTC thấy: “Một người dang giữ một chiếc ô trên không”
Ảnh: Viện Công nghệ Massachusets (MIT)

Mục đích của thí nghiệm này là để xem một cỗ máy trí tuệ nhân tạo sẽ có xu hướng thiên vị nội dung như thế nào khi bạn huấn luyện nó dựa trên dữ liệu bị thiên vị. Nhóm nghiên cứu đã khôn ngoan khi không hề suy đoán về việc liệu sự tiếp xúc với nội dung đồ họa có thay đổi cách con người nghĩ hay không. Họ cũng đã làm những thí nghiệm khác theo cùng cách này, ví dụ như sử dụng trí tuệ nhân tạo để viết truyện kinh dị, tạo ra những bức ảnh đáng sợ, đánh giá các hành vi về đạo đức, hay tạo ra sự đồng cảm.

Loại hình nghiên cứu này rất quan trọng. Chúng ta nên đặt ra câu hỏi tương tự về trí tuệ nhân tạo khi chúng ta làm vậy với các công nghệ khác, bởi các hậu quả không mong muốn như làm hại con người rất dễ xảy ra. Theo một cách tự nhiên, đây là nền tảng của phim khoa học viễn tưởng: tưởng tượng ra các tương lai có thể xảy ra và cho chúng ta thấy động cơ dẫn đến tương lai đó. Issac Asimov viết “Ba Quy tắc trong ngành robot” bởi vì ông ấy muốn chúng ta tưởng tượng những gì có thể xảy ra nếu chúng làm ngược lại những gì ta mong muốn.

Cho dù hiện nay, trí tuệ nhân tạo không phải là một lĩnh vực mới mẻ gì, con người đã đi được một chặng đường dài trong việc sản xuất và phát triển chúng. Giống như câu nói trong tạp chí New York Times, công nghệ này có thể “chứng minh một điều kiện với sự tuyệt đối, một chiếc máy thông dịch”. Nhưng nó vẫn chưa trải qua một quá trình tính toán mà có thể dẫn đến một dạng kỉ luật để có thể phát triển. Vật lý, như bạn nhớ, đã đem lại cho chúng ta quả bom nguyen tử, và mỗi nhà vật lý đều biết rằng có ngày họ sẽ bị đến thăm để giúp thế giới tạo ra một điều gì đó mà có thể thay đổi thế giới về cơ bản. Các nhà khoa học máy tính cũng đang bắt đầu nhận ra điều này. Ở Google năm nay, 5000 nhân viên đã cùng nhau phản đối và tổ chức một cuộc đình công với công ty của mình khi biết Google có nhúng tay vào Dự Án Maven (Project Maven), một sáng kiến của Lầu Năm Góc sử dụng công nghệ học máy (machine learning) để giúp máy bay drone tấn công với độ chính xác cao hơn.

Hiện Norman mới chỉ là một thí nghiệm về sự nhận thức, nhưng những câu trả lời thu lại được về khả năng các thuật toán trí tuệ nhân tạo đưa ra đánh giá và quyết định dựa trên dữ liệu thiên vị đang trở nên cấp thiết hơn bao giờ hết. Giả sử những hệ thống đó đã được sử dụng trong việc viết bảo lãnh tín dụng, quyết định xem khoản vay có đảm bảo giá trị hay không thì sao? Hay nó có thể đánh giá thay bạn xem bạn có nên mua căn nhà này hay chiếc xế hộp này? Liệu nó có thể đoán được ai đang thích bạn? Có rất nhiều, rất nhiều câu hỏi mở. Vai trò của Norman đó là giúp chúng ta tìm ra được những câu trả lời cho những câu hỏi đó.

Filed under: AI - Trí tuệ nhân tạo - @ 10:17

Thẻ: AGI an toàn, AI norman, AI tâm thần, đại học mit, người máy tâm thần, openAI

Thiết kế website giá rẻ

Danh mục

Đại học MIT tạo ra AI “tâm thần” bằng cách… cho đọc REDDIT