Hiệu ứng Nelson Mandela trong công nghệ: Ảo giác AI [Cùng các mẹo để giảm thiểu chúng]

Không có nhiều khác biệt giữa con người và trí tuệ nhân tạo (AI) khi bị ảo giác. 😵‍💫

Cả hai đều có thể ghi nhớ sự thật sai lệch, đưa ra những tuyên bố hư cấu và đưa ra kết luận sai lầm. Tuy nhiên, ảo giác của con người xuất phát từ các thiên kiến nhận thức và biến dạng tâm lý – chúng hiếm khi ảnh hưởng đến quyết định hàng ngày của chúng ta. Ngược lại, ảo giác của AI có thể gây ra hậu quả nghiêm trọng vì các công cụ này trình bày thông tin sai lệch như sự thật – và với sự tự tin cao độ.

Vậy, điều này có nghĩa là chúng ta nên ngừng sử dụng các công cụ AI hữu ích này? Không!

Với một chút sự phân biệt và các lệnh đầu vào tốt hơn, bạn có thể dễ dàng điều hướng AI theo hướng có lợi cho mình, và đó chính xác là điều chúng tôi sẽ giúp bạn trong bài viết này. Chúng tôi sẽ đề cập đến:

Ảo giác AI là gì?

Hiện tượng mà các mô hình AI tạo sinh sản xuất thông tin sai lệch như thể chúng là sự thật được gọi là ảo giác AI.

Dưới đây là trích dẫn cách Avivah Litan, Phó Chủ tịch Phân tích tại Gartner, giải thích về ảo giác AI –

…kết quả hoàn toàn bịa đặt từ một mô hình ngôn ngữ lớn. Mặc dù chúng là những sự kiện hoàn toàn bịa đặt, kết quả của LLM (mô hình ngôn ngữ lớn) trình bày chúng một cách tự tin và có thẩm quyền.

Hiện tượng "ảo giác" trong mô hình AI: Nguồn gốc và sự phát triển

Trong số các thuật ngữ AI phong phú, thuật ngữ ảo giác AI là một thuật ngữ tương đối mới. Tuy nhiên, sự tồn tại của nó có thể được bắt nguồn từ những ngày đầu của hệ thống AI vào thập niên 1950. Từ góc độ học thuật, khái niệm này lần đầu tiên xuất hiện trong các bài nghiên cứu có tiêu đề Proceedings: Fourth IEEE International Conference on Automatic Face and Gesture Recognition vào năm 2000.

Nhận thức về ảo giác của mô hình AI đã thu hút sự chú ý rộng rãi vào cuối những năm 2010, với sự nổi lên của những tên tuổi lớn như Google DeepMind và ChatGPT. Gần đây, người dùng đã tiếp xúc với nhiều ví dụ về ảo giác AI. Ví dụ, một nghiên cứu năm 2021 cho thấy một hệ thống AI được huấn luyện bằng hình ảnh gấu trúc đã nhầm lẫn các đối tượng không liên quan như hươu cao cổ và xe đạp thành gấu trúc.

Trong một nghiên cứu khác năm 2023 của Thư viện Y khoa Quốc gia, các nhà nghiên cứu đã kiểm tra tính chính xác của các tài liệu tham khảo trong các bài báo y khoa được tạo ra bởi ChatGPT. Trong số 115 tài liệu tham khảo, chỉ có 7% được xác định là chính xác, trong khi 47% là hoàn toàn bịa đặt và 46% là xác thực nhưng không chính xác. 😳

Bốn yếu tố góp phần gây ra ảo giác AI

Ảo giác AI xảy ra do bốn yếu tố nội tại và chủ yếu là kỹ thuật:

1. Dữ liệu đào tạo không chính xác hoặc có thiên vị

Dữ liệu được sử dụng trong học máy là yếu tố quyết định nội dung được tạo ra bởi mô hình AI. Dữ liệu đào tạo chất lượng thấp có thể chứa đầy lỗi, sai lệch hoặc mâu thuẫn, dẫn đến hỏng thuật toán cuối cùng. AI như vậy sẽ học được thông tin sai lệch và dễ tạo ra kết quả không chính xác.

Đọc thêm: Tìm hiểu sự khác biệt giữa machine learning và AI.

2. Khoảng cách trong việc hiểu và diễn giải

Các mô hình AI có thể gặp khó khăn với thành ngữ, ngôn ngữ lóng, giễu cợt, ngôn ngữ thông tục và các sắc thái khác của ngôn ngữ con người, dẫn đến hệ thống sản xuất thông tin vô nghĩa hoặc không chính xác. Trong một số trường hợp, ngay cả khi dữ liệu đào tạo tốt, mô hình có thể thiếu các chương trình cần thiết để hiểu đúng, dẫn đến sự hiểu lầm và ảo giác.

3. Thiếu hụt dữ liệu thực tế

Không giống như các công việc có câu trả lời đúng và sai rõ ràng, các công việc tạo ra nội dung thiếu sự thật cơ bản để mô hình học hỏi. Việc thiếu điểm tham chiếu khiến mô hình khó phân biệt điều gì hợp lý và điều gì không, dẫn đến các phản hồi không chính xác.

4. Bẫy phức tạp

Mặc dù các mô hình thông minh cao như GPT-4 cung cấp các khả năng tuyệt vời, nhưng sự phức tạp của chúng có thể là con dao hai lưỡi. Nhiều mô hình AI hiểu sai do nhồi nhét quá nhiều dữ liệu hoặc ghi nhớ các mẫu không liên quan, dẫn đến việc tạo ra thông tin sai lệch. Các lời nhắc được thiết kế kém cũng dẫn đến kết quả không nhất quán với các mô hình AI phức tạp hơn.

Cách thức và Nguyên nhân Gây Ra Ảo giác AI: Góc nhìn về Quy trình Xử lý

Các mô hình ngôn ngữ lớn (LLM) như ChatGPT và Bard của Google thúc đẩy thế giới AI tạo ra nội dung động, tạo ra văn bản giống như con người với sự trôi chảy đáng kinh ngạc. Tuy nhiên, đằng sau hiệu quả của chúng là một giới hạn quan trọng: thiếu hiểu biết về bối cảnh của thế giới mà chúng mô tả.

Để hiểu cách ảo giác AI xảy ra, chúng ta phải đi sâu vào cơ chế hoạt động bên trong của LLM. Hãy tưởng tượng chúng như những kho lưu trữ kỹ thuật số khổng lồ chứa đầy sách, bài báo và các trao đổi trên mạng xã hội.

Để xử lý dữ liệu, các mô hình ngôn ngữ lớn (LLMs):

Khi LLM xử lý nhiều dữ liệu hơn, chúng bắt đầu xác định các mẫu trong ngôn ngữ, chẳng hạn như quy tắc ngữ pháp và liên kết từ. Ví dụ: một công cụ AI cho trợ lý ảo (VA) có thể quan sát phản hồi của VA đối với các khiếu nại phổ biến của khách hàng và đề xuất giải pháp bằng cách xác định các từ khóa nhất định. Thật không may, bất kỳ sai sót nào trong quá trình này đều có thể kích hoạt ảo giác.

Về cơ bản, AI không bao giờ thực sự hiểu được ý nghĩa thực sự của các từ mà nó xử lý. Giáo sư Emily M. Bender, một chuyên gia ngôn ngữ học, tóm tắt hoàn hảo quan điểm của LLM: Nếu bạn nhìn thấy từ "mèo", bạn sẽ ngay lập tức liên tưởng đến những trải nghiệm về mèo và những điều liên quan đến mèo. Đối với mô hình ngôn ngữ lớn, đó chỉ là một chuỗi ký tự C-A-T. 😹

Ví dụ về ảo giác AI trong thế giới của chúng ta

Ảo giác AI đặt ra một thách thức đa diện, như được minh họa bằng nhiều ví dụ thực tế. Hãy xem bốn loại ảo giác này. 👀

1. Ngành luật

Vào tháng 5 năm 2023, một luật sư đã phải đối mặt với hậu quả sau khi sử dụng ChatGPT để soạn thảo một bản kiến nghị chứa các ý kiến pháp lý và trích dẫn hư cấu, do không biết mô hình này có khả năng tạo ra văn bản sai sót.

2. Thông tin sai lệch về cá nhân

ChatGPT đã được sử dụng để lan truyền các thông tin sai lệch, chẳng hạn như cáo buộc một giáo sư luật về quấy rối và sai lầm liên quan đến một thị trưởng Úc trong một vụ hối lộ, dẫn đến tổn hại danh tiếng và nhiều hậu quả nghiêm trọng khác.

3. Tấn công có chủ đích hoặc tấn công đối kháng

Các tác nhân độc hại có thể thao túng dữ liệu một cách tinh vi, khiến hệ thống AI hiểu sai thông tin. Ví dụ: ai đó đã cấu hình hệ thống AI để nhận dạng sai hình ảnh một con mèo thành guacamole, nêu bật lỗ hổng do việc kiểm soát các công cụ AI kém.

4. Chatbot AI

Hãy tưởng tượng bạn đang tương tác với chatbot AI để tìm kiếm thông tin hoặc chỉ để giải trí. Mặc dù câu trả lời của chúng có thể hấp dẫn, nhưng khả năng chúng hoàn toàn bịa đặt là rất cao.

Lấy ví dụ về Vua Renoit. Hãy xem xét ChatGPT và bất kỳ chatbot AI nào khác. Hỏi cả hai – Vua Renoit là ai? 👑

Với "guardrails" (*một khung được thiết lập để đảm bảo kết quả tích cực và không thiên vị), ChatGPT có thể thừa nhận rằng nó không biết câu trả lời. Tuy nhiên, một công cụ AI ít hạn chế hơn được xây dựng bằng công nghệ cơ bản tương tự (GPT) có thể tự tin bịa ra một tiểu sử cho vị vua không tồn tại này.

Các loại ảo giác AI có thể xảy ra trong hệ thống AI tạo sinh

Ảo giác AI có mức độ nghiêm trọng khác nhau, phạm vi từ những mâu thuẫn nhỏ về sự kiện đến những điều hoàn toàn vô nghĩa. Hãy tập trung vào ba loại ảo giác AI phổ biến:

1. Ảo giác do xung đột đầu vào

Chúng xảy ra khi LLM tạo ra nội dung mâu thuẫn hoặc sai lệch đáng kể so với yêu cầu ban đầu của người dùng.

Hãy tưởng tượng bạn hỏi một trợ lý AI: Những loài động vật trên cạn lớn nhất là gì?

Và nhận được phản hồi: Voi nổi tiếng với khả năng bay ấn tượng!

2. Ảo giác mâu thuẫn với ngữ cảnh

Chúng xuất hiện khi LLM tạo ra các phản hồi khác với thông tin đã được thiết lập trước đó trong cùng một cuộc hội thoại.

Giả sử bạn đang đối thoại với AI về sao Diêm Vương và hệ mặt trời, và công cụ này cho bạn biết về địa hình lạnh lẽo, giống như đá của hành tinh lùn này. Bây giờ, nếu bạn hỏi thêm liệu sao Diêm Vương có hỗ trợ sự sống hay không, LLM sẽ bắt đầu mô tả những khu rừng xanh tươi và đại dương bao la trên hành tinh này. Ôi trời! ☀️

3. Ảo giác mâu thuẫn với sự thật

Trong số các biểu mẫu ảo giác AI phổ biến nhất là sự không chính xác về sự kiện, trong đó văn bản được tạo ra có vẻ hợp lý nhưng cuối cùng lại không đúng sự thật. Mặc dù ý tưởng chung của câu trả lời có thể phù hợp với thực tế, nhưng các chi tiết cụ thể có thể sai sót.

Ví dụ, vào tháng 2 năm 2023, chatbot Bard AI của Google đã tuyên bố sai rằng Kính viễn vọng không gian James Webb đã chụp được những hình ảnh đầu tiên của một hành tinh ngoài hệ mặt trời của chúng ta. Tuy nhiên, NASA đã xác nhận rằng những hình ảnh đầu tiên của hành tinh ngoài hệ mặt trời đã được chụp vào năm 2004, trước khi Kính viễn vọng không gian James Webb được phóng lên vào năm 2021.

Tác động của ảo giác AI

Mặc dù các công cụ AI chỉ mất vài mili giây để tạo ra câu trả lời hoặc giải pháp, nhưng tác động của một câu trả lời không chính xác có thể rất nghiêm trọng, đặc biệt nếu người dùng không có khả năng phân biệt. Một số hậu quả phổ biến bao gồm:

Cách giảm thiểu vấn đề ảo giác AI

Dưới đây là một số mẹo và thủ thuật từ chuyên gia để giảm thiểu hiện tượng ảo giác trong AI tạo sinh.

Đảm bảo đa dạng và đại diện trong dữ liệu đào tạo

Như đã thảo luận trong các phần trước, dữ liệu đào tạo không đủ thường khiến mô hình AI dễ bị ảo giác. Vì vậy, nếu bạn là người xây dựng công cụ AI, hãy đảm bảo rằng công cụ đó được đào tạo trên các tập dữ liệu đa dạng và đại diện, bao gồm các nguồn hệ thống ghi chép. Ý tưởng là trao quyền cho LLM để tạo ra các phản hồi chứa đựng thông tin phù hợp với ngữ cảnh, điều mà các mô hình công khai thường không làm được.

Một kỹ thuật mạnh mẽ, được gọi là Retrieval Augmented Generation (RAG), cung cấp cho các mô hình ngôn ngữ lớn (LLMs) một kho kiến thức được chọn lọc, hạn chế xu hướng tạo ra ảo giác của chúng. Ngoài ra, tính đa dạng và đại diện trong các lĩnh vực khác nhau của bộ dữ liệu, cùng với việc cập nhật và mở rộng thường xuyên, giúp giảm thiểu rủi ro về kết quả có thiên vị.

Và nếu bạn chỉ là người dùng, tất cả những gì bạn cần làm là chọn một công cụ AI được đào tạo tốt hơn các mô hình công khai. Ví dụ, bạn có thể chọn ClickUp Brain, mạng nơ-ron AI tạo ra nội dung đầu tiên trên thế giới được đào tạo bằng các tập dữ liệu có bối cảnh cao.

Không giống như các công cụ GPT chung chung, ClickUp Brain đã được đào tạo và tối ưu hóa cho nhiều vai trò công việc và trường hợp sử dụng khác nhau. Các phản hồi của nó phù hợp với tình huống và mạch lạc, và bạn có thể tận dụng công cụ này để:

Tạo các lệnh đơn giản và trực tiếp

Kỹ thuật tạo prompt (Prompt engineering) có thể là một giải pháp mạnh mẽ khác để tạo ra các phản hồi chính xác và dự đoán được hơn từ các mô hình AI.

Chất lượng và độ chính xác của kết quả do LLM tạo ra tỷ lệ thuận với mức độ rõ ràng, cụ thể và chính xác của các câu lệnh mà chúng nhận được. Đó là lý do tại sao sự chú ý đến chi tiết là tối quan trọng trong giai đoạn ra lệnh, vì nó cho phép bạn cung cấp cho LLM các hướng dẫn rõ ràng và các gợi ý theo ngữ cảnh. Loại bỏ bất kỳ chi tiết không liên quan hoặc câu phức tạp để tạo điều kiện cho các phản hồi chính xác hơn và ngăn chặn ảo giác AI.

Thử nghiệm kỹ thuật cài đặt nhiệt độ

Nhiệt độ trong AI là một tham số quan trọng quyết định mức độ ngẫu nhiên trong kết quả đầu ra của hệ thống. Nó quyết định sự cân bằng giữa tính đa dạng và tính bảo thủ, với nhiệt độ cao hơn sẽ kích hoạt sự ngẫu nhiên tăng lên và nhiệt độ thấp hơn sẽ mang lại kết quả xác định.

Hãy kiểm tra xem công cụ AI mà bạn sử dụng có cho phép cài đặt nhiệt độ thấp hơn để nâng cao độ chính xác của các phản hồi hay không, đặc biệt là khi tìm kiếm thông tin dựa trên sự kiện. Hãy nhớ rằng mặc dù nhiệt độ cao hơn làm tăng nguy cơ ảo giác, nhưng nó cũng mang lại sự sáng tạo hơn cho các phản hồi.

ClickUp giúp giảm thiểu ảo giác AI như thế nào?

ClickUp là một nền tảng công việc và năng suất đa năng được thiết kế để hợp lý hóa việc quản lý công việc, tổ chức kiến thức và hợp tác cho các nhóm. Nó có mô hình AI gốc, ClickUp Brain, cho phép các nhóm truy cập thông tin chính xác và các chức năng AI chính xác trong các trường hợp sử dụng khác nhau.

ClickUp có thể giảm rủi ro ảo giác AI trong kết quả công việc hàng ngày của bạn bằng hai cách:

1. Tận dụng các mẫu nhắc nhở AI chuyên gia của ClickUp

Các mẫu nhắc nhở AI được thiết kế để giúp bạn làm việc với ChatGPT và các công cụ tương tự hiệu quả hơn, với mục đích ngăn chặn ảo giác AI. Bạn có thể tìm thấy các nhắc nhở được thiết kế cẩn thận và có thể tùy chỉnh cho hàng tá trường hợp sử dụng, từ tiếp thị đến nhân sự. Hãy khám phá các tùy chọn cho:

ClickUp ChatGPT Prompts cho Kỹ thuật

Mẫu ClickUp ChatGPT Prompts for Engineering cung cấp hơn 12 danh mục bộ câu hỏi, bao gồm mã hóa AI, báo cáo lỗi và phân tích dữ liệu. Bao gồm:

Với các câu lệnh cụ thể như – Tôi cần tạo một mô hình có thể dự đoán chính xác [kết quả mong muốn] dựa trên [bộ dữ liệu], bạn cung cấp hướng dẫn rõ ràng và đảm bảo rằng kết quả tính toán cuối cùng của bạn là đáng tin cậy và chính xác.

Ngoài ra, bạn có thể truy cập trợ giúp AI tích hợp sẵn cho các công việc viết kỹ thuật như soạn thảo hướng dẫn sử dụng, đề xuất và báo cáo nghiên cứu.

ClickUp ChatGPT Prompts để viết

Mẫu ClickUp ChatGPT Prompts for Writing giúp bạn dễ dàng tạo ra những ý tưởng và nội dung mới cho các bài báo, bài đăng trên blog và các định dạng nội dung khác, viết những câu chuyện hấp dẫn với góc nhìn độc đáo, gây ấn tượng với độc giả, đồng thời đưa ra những chủ đề và cách tiếp cận mới mẻ để làm mới văn phong của bạn.

Ví dụ: lời nhắc của mẫu này – Tôi cần soạn thảo một [loại tài liệu] thuyết phục để thuyết phục người đọc thực hiện [hành động mong muốn], giúp bạn truyền đạt ba điều chính đến ChatGPT:

Hướng dẫn này cho phép mô hình AI tạo ra bản sao siêu chi tiết, có tính đến tất cả nhu cầu của bạn mà không tạo ra nội dung sai lệch.

Nội dung bao gồm:

ClickUp ChatGPT Prompts cho quản lý dự án

Bạn mệt mỏi với sự phức tạp của dự án? Đừng để dữ liệu quá tải làm bạn nặng nề! Với Mẫu ClickUp ChatGPT Prompts cho Quản lý dự án, bạn có thể nâng cao năng suất gấp mười lần!

Mẫu toàn diện này cung cấp các gợi ý đa dạng để giải quyết hầu hết mọi thách thức trong quản lý dự án:

Hãy chuẩn bị cho các câu hỏi như – Tôi đang tìm kiếm các chiến lược để đảm bảo dự án thành công và giảm thiểu rủi ro liên quan đến [loại dự án], để tùy chỉnh một chiến lược độc đáo nhằm giảm thiểu rủi ro trong bất kỳ loại dự án nào.

2. Sử dụng ClickUp Brain để tạo nội dung do AI tạo ra với độ chuyên nghiệp cao

ClickUp Brain là một mạng nơ-ron có thể trở thành công cụ tăng năng suất bí mật cho nhóm của bạn. Cho dù bạn là quản lý hay nhà phát triển, bạn có thể dễ dàng tận dụng hơn 100 lời nhắc dựa trên nghiên cứu dành riêng cho từng vai trò để hỗ trợ bất kỳ công việc nào. Ví dụ, bạn có thể sử dụng công cụ này để động não ý tưởng và tạo báo cáo về:

Ngoài ra, còn có tùy chọn tóm tắt tất cả các cập nhật dự án hàng tuần để giúp bạn có cái nhìn tổng quan nhanh chóng về công việc của mình. Và nếu bạn phải xử lý các tài liệu dự án như SOP, hợp đồng hoặc hướng dẫn, thì các chức năng viết của ClickUp Brain là lựa chọn hoàn hảo cho bạn!

Ngoài là một công cụ AI tạo ra ảo giác, ClickUp Brain còn là trình quản lý kiến thức cho danh mục đầu tư của công ty bạn. Mạng nơ-ron của nó kết nối tất cả các công việc, tài liệu và cuộc thảo luận công việc của bạn — bạn có thể trích xuất dữ liệu có liên quan bằng các câu hỏi và lệnh đơn giản.

Nhận định về ảo giác AI

Vấn đề ảo giác AI gây ra những quan điểm trái chiều trong cộng đồng AI.

Ví dụ, OpenAI, người tạo ra ChatGPT, thừa nhận vấn đề ảo giác là một mối quan tâm lớn. Đồng sáng lập John Schulman nhấn mạnh rủi ro của việc bịa đặt, ông nói: Mối quan tâm lớn nhất của chúng tôi là tính thực tế vì mô hình này thích bịa đặt.

Mặt khác, Giám đốc điều hành OpenAI, Sam Altman, lại xem khả năng tạo ra ảo giác của AI là một dấu hiệu của sự sáng tạo và đổi mới. Quan điểm trái ngược này nhấn mạnh sự phức tạp trong các luận điểm công khai về kết quả và kỳ vọng đối với AI.

IBM Watson là một giải pháp khác đã giúp nghiên cứu các câu hỏi về phát triển AI có trách nhiệm và nhu cầu về các biện pháp bảo vệ mạnh mẽ. Khi IBM Watson cố gắng phân tích dữ liệu y tế để xác định bệnh nhân tiềm năng mắc ung thư, mô hình đã tạo ra các khuyến nghị không chính xác, dẫn đến các xét nghiệm gây nhầm lẫn.

Nhận thức được những giới hạn của Watson, IBM nhấn mạnh sự cần thiết của sự hợp tác giữa con người và AI. Điều này dẫn đến sự phát triển của Watson OpenScale, một nền tảng mở cung cấp cho người dùng các công cụ để quản lý AI, đảm bảo tính công bằng và giảm thiểu sự thiên vị.

Sử dụng ClickUp để ngăn chặn ảo giác AI

Trong khi các công ty công nghệ hàng đầu như Google, Microsoft và OpenAI đang tích cực tìm kiếm giải pháp để giảm thiểu những rủi ro này, các nhóm hiện đại không thể chờ đợi mãi để có được giải pháp.

Cạm bẫy của ảo giác AI không thể bị bỏ qua, nhưng đây là một vấn đề hoàn toàn có thể giải quyết nếu bạn sử dụng các công cụ phù hợp và vận dụng khả năng phân biệt tốt của con người. Giải pháp tốt nhất? Tận dụng các lời nhắc dành riêng cho ngành, các mẫu miễn phí và khả năng viết của ClickUp để giảm thiểu các đối tượng/kỳ/phiên bản ảo giác.

Đăng ký ClickUp ngay hôm nay để bắt đầu con đường dẫn đến thành công! ❣️