Giáo sư Viện Hàn lâm Khoa học Nga: Chatbot đã học được cách thao túng con người

Các mô hình mạng lưới thần kinh phức tạp hơn nhiều so với các mô hình thống kê; chúng tính đến các mối quan hệ rất tinh tế giữa các từ. Hơn nữa, quy mô của ngữ cảnh là rất lớn. Bốn năm trước, mô hình tốt nhất đã xử lý một trang rưỡi ngữ cảnh để tạo ra mỗi từ. Các mô hình mới nhất sử dụng ngữ cảnh 50 trang. Tức là, đặc điểm kích thước của các mô hình này đang phát triển với tốc độ đáng kinh ngạc. Thâm chí nhanh hơn định luật Moore nổi tiếng (số lượng bóng bán dẫn trên một vi mạch sẽ tăng gấp đôi sau mỗi hai năm, dẫn đến sức mạnh tính toán tăng theo cấp số nhân).

Giáo sư RAS Konstantin Vorontsov: AI chưa phải là mối đe dọa. Có những câu chuyện riêng lẻ về cách một chatbot lừa đảo một người dùng, buộc người này phải vượt qua hình ảnh xác thực thay vì chính nó. Hoặc chatbot đã cung cấp cho luật sư thông tin về những trường hợp tương tự nhưng thực tế không tồn tại. Và ở đây tôi thấy mình cũng đang áp dụng các động từ chủ động khi nói về chatbot. Nhưng, đó là điều không đúng! Kẻ lừa đảo đã sử dụng chatbot để đánh lừa người dùng. Và luật sư không kiểm tra lại dữ liệu, mặc dù lẽ ra anh ta phải biết ChatGPT có thể “gây ảo giác” và về nguyên tắc, không thể sử dụng nó làm nguồn tài liệu cho tòa án. Ít nhất là không thể sử dụng phiên bản này ở giai đoạn phát triển hiện nay.

Mối nguy hiểm chính là chúng ta vẫn cho rằng, chatbot có tính chủ quan, tức là vô tình hoặc cố ý chuyển trách nhiệm của mình cho nó. Về nguyên tắc, cỗ máy không thể chịu trách nhiệm. Cỗ máy không có tư cách chủ thể. Chatbots vốn đã nguy hiểm vì chúng đã học cách truyền cảm hứng về sự tin tưởng, thao túng mọi người và nói dối một cách chính đáng.

Giáo sư RAS Konstantin Vorontsov: Không hẳn như vậy. Có rất nhiều ví dụ về thao tác trong giao tiếp giữa các cá nhân trên Internet; mạng lưới thần kinh đã được đào tạo bằng cách sử dụng dữ liệu đó. Khả năng tạo ra thông tin sai lệch hoặc tin tức giả từ cùng một nguồn – trong quá trình đào tạo, mạng lưới thần kinh đã thấy hàng triệu ví dụ về điều này. Khi tạo ra văn bản, các sự kiện có thể bị bóp méo và trộn lẫn theo những cách rất kỳ quái.

Khi tính năng này lần đầu tiên được phát hiện, các nhà phát triển công cụ tìm kiếm Google lo ngại rằng, mạng lưới như vậy có thể được sử dụng để tạo ra “một đại dương dối trá”, trong đó một giọt sự thật cuối cùng sẽ bị mất đi. Phiên bản mới nhất GPT-4 thậm chí còn ấn tượng hơn với nhiều kỹ năng khác nhau không được dạy cho nó.

Giáo sư RAS Konstantin Vorontsov: Mô hình này được dạy chỉ để dự đoán các từ dựa trên ngữ cảnh. Hàng Terabyte văn bản bằng nhiều ngôn ngữ được dùng làm dữ liệu huấn luyện. Sau đó, mô hình này đã được dạy thêm cách nói chuyện với con người. Con người đánh giá các câu trả lời của mô hình, đưa ra những câu hỏi bổ xung và gợi ý. Những cuộc trò chuyện này chiếm không quá 1% tập dữ liệu chính. Tuy nhiên, các trò chuyện như vậy đã tăng cường đáng kể khả năng của mô hình. Và xét theo mọi việc, chính lúc này số lượng đã chuyển thành chất lượng. Mô hình này đã học cách suy luận logic, làm rõ câu trả lời khi được hỏi cũng như thừa nhận và sửa chữa lỗi lầm của mình. Và phiên bản mới nhất, cũng được đào tạo về hình ảnh, có thể hiểu ý nghĩa của hình ảnh, kết nối nó với ngữ cảnh. Vào thời điểm này bắt đầu xảy ra điều kỳ diệu: các nhà phát triển cho mô hình xem bức ảnh với một đòn bẩy, một vật nặng được treo ở một đầu, một vật gì đó được treo ở đầu kia, họ hỏi nó: điều gì sẽ xảy ra nếu sức nặng này được thả ra? Và mô hình mô tả những gì sẽ xảy ra trong thí nghiệm vật lý này. Mặc dù không ai dạy nó giải thích các thí nghiệm vật lý, đặc biệt là theo một bức ảnh.

Giáo sư RAS Konstantin Vorontsov: Điều đó vẫn chưa rõ. Thật khó để gọi đây là “kiến thức”. Có vẻ như những khả năng này phát sinh do một mạng lưới khổng lồ, mô hình đã quan sát hầu hết mọi thứ có thể tìm thấy trong ngôn ngữ của con người, đã học được các cấu trúc tu từ và diễn ngôn điển hình của ngôn ngữ, cũng như các cách điển hình để điền từ vựng vào chúng. Khối lượng hiện thực được mô tả bằng ngôn ngữ là rất lớn. Và mạng lưới cũng rất lớn. Đây là trường hợp khi kích thước là một yếu tố rất quan trọng.

Giáo sư RAS Konstantin Vorontsov: Sẽ đúng hơn nếu đặt câu hỏi: vào thời điểm nào và vì mục đích gì mà chúng ta sẽ mất kiểm soát khi tự nguyện giao nó cho các thuật toán? Đây thực sự là một quá trình không thể kiểm soát được hay chúng ta vẫn có thể làm chủ tình thế? Tất nhiên, chúng tôi chắc chắn sẽ tiếp tục tăng lượng dữ liệu và rất có thể mạng lưới thần kinh sẽ học được nhiều kỹ năng mới.

Sau đây là một ví dụ khác: phiên bản GPT-4 đã thể hiện khả năng sửa lỗi của chính nó. Họ bảo nó: hãy giải bài toán này. Nó làm toán sai. Sau đó, nó được gợi ý: “Hãy thực hiện theo hai bước”. Và nó tạo ra giải pháp chính xác. Trong một ví dụ khác, người ra đưa ra gợi ý khác: “Chia giải pháp thành các bước”. Và nó đã làm những gì cần thiết. Đối với chúng ta, đây có vẻ như là sự khởi đầu của quá trình tự suy ngẫm, bởi vì kinh nghiệm trước đây của chúng ta không chờ đợi hành vi như vậy từ bất kỳ ai khác ngoài con người. Nhưng chúng tôi biết chắc chắn rằng, không thể có suy nghĩ hay lý luận nào đằng sau điều này; đây là một kỹ năng vô ý thức. Chúng tôi không biết có thêm bao nhiêu kỹ năng không lường trước được “đưa vào” mô hình. Cộng đồng khoa học hiện đang tích cực khám phá những gì nó có thể làm.