人間と人工知能（AI）の幻覚に違いはほとんどない😵💫
どちらも事実を間違って思い出したり、架空の発言をでっち上げたり、間違った結論を出したりすることがある。しかし、人間の幻覚は認知バイアスや心の歪みに根ざしている。
/にはほとんど影響を与えない。 https://clickup.com/ja/blog/120427/undefined/ 日常の意思決定 /%href/
.一方、AIツールは間違った情報を事実として、しかも自信たっぷりに提示するため、/AIの幻覚はかなりの代償を払うことになる。
ということは、このような便利なツールを使うのをやめるべきなのだろうか？ AIツール ?いいえ！
ちょっとした見極めとプロンプトの工夫で、AIを簡単に有利な方向に導くことができる。このブログでは、まさにそのお手伝いをします：
- AIの幻覚とその根底にある現実
- AI幻覚の種類と実例
- AI幻覚の問題を最小限に抑えるためのヒントとツール
AI 幻覚とは何か？
AI生成モデルが誤った情報をあたかも真実であるかのように生成する現象をAI幻覚と呼ぶ。
以下はその抜粋である。 ガートナー社副社長アナリスト、アヴィヴァ・リタン氏 AIによる幻覚について説明する。
..._大規模言語モデルからの完全にでっち上げられた出力。それらが完全にでっち上げられた事実を表しているにもかかわらず、LLM（大規模言語モデル）の出力は、自信と著者を持ってそれらを提示する。
AIモデルの幻覚：起源と進化
膨大な AI用語集 AI幻覚という用語は比較的新しい。しかし、その存在は1950年代のAIシステムの初期にまで遡ることができる。学術的な見地から、この概念が最初に登場したのは、次のようなタイトルの研究論文であった。 Proceedings：第4回IEEE顔およびジェスチャー自動認識国際会議 in 2000.
Google DeepMindやChatGPTのようなビッグネームの台頭により、AIモデルが幻覚を見るという認識は2010年代後半により広く注目されるようになった。最近では、ユーザーはAIの幻覚の様々な例にさらされている。インスタンスンス 2021年の研究 は、パンダの画像で学習させたAIシステムが、キリンや自転車といった無関係なオブジェクトをパンダと誤認していることを明らかにした。
による別の2023年の研究では 国立医学図書館 ChatGPTの研究者たちは、ChatGPTによって生成された医学論文の参考文献の正確さを調査した。115の参考文献のうち、正確であったのはわずか7％で、47％は完全なでっち上げ、46％は認証はあるが不正確であった。😳
AI 幻覚を引き起こす4つの要素
AIの幻覚は、4つの固有の、主に技術的な要因によって起こる：
1.不正確または偏ったトレーニングデータ
機械学習で使用されるデータは、最終的にAIモデルが生成するコンテンツを決定する。質の低いトレーニングデータは、エラーや偏り、矛盾に満ちている可能性があり、最終的なアルゴリズムを腐敗させる。そのようなAIは、ねじれた情報を学習し、不正確な出力を生成しやすくなる。
ボーナス読み物：以下について学ぶ 機械学習とAIの違いについて知る .
2.解釈のギャップ
AIモデルは、慣用句、俗語、皮肉、口語、その他人間の言葉のニュアンスにつまずき、システムが無意味または不正確な情報を生成する可能性がある。また、たとえ学習データが優れていたとしても、モデルがそれを正しく理解するために必要なプログラミングを備えておらず、誤った解釈や幻覚を引き起こすこともある。
3.真実の欠如
明確な正解と不正解があるタスクとは異なり、生成タスクにはモデルが学習するための、いわば決定的なグランドトゥルースがない。このような基準点の不在は、モデルにとって、何が理にかなっていて何が理にかなっていないのかを識別することを困難にし、結果として不正確な回答になってしまう。
4.複雑性の罠
GPT-4のような高度に賢いモデルは素晴らしい能力を提供するが、その複雑さは諸刃の剣となりうる。多くのAIモデルは、データを詰め込みすぎたり、無関係なパターンを記憶したりすることで、誤った情報を生成してしまう。 また、プロンプトの設計が不十分だと、より複雑なAIモデルで一貫性のない結果になってしまう。
AI の幻覚はなぜ起こるのか？処理の視点
ChatGPTやGoogleのBardのような大規模言語モデル(LLM)は、以下のような問題を引き起こす。 生成AIのダイナミックな世界 人間のようなテキストを驚くほど流暢に生成する。しかし、その有効性の裏には重大なリミットがある： 彼らが記述する世界の文脈理解が欠けているのだ。
AIの幻覚がどのようにして起こるのかを理解するためには、LLMの内部構造を掘り下げる必要がある。LLMを、書籍や記事、ソーシャルメディアでのやり取りで埋め尽くされた膨大なデジタル・アーカイブと想像してみてほしい。
データを処理するために、LLMは
1.情報を「トークン」と呼ばれる小さな単位に分解する。 2.トークンを処理するために、人間の脳を大まかに模倣した複雑なニューラルネットワーク（NN）を使用する。 3.AIモデルは反復するたびに内部パラメーターを調整し、予測能力を向上させる。
LLMはより多くのデータを処理するにつれて、文法規則や単語の関連性など、言語のパターンを特定し始める。例 バーチャルアシスタント用AIツール (VA)は、一般的なカスタマー・クレームに対するVAの対応を観察し、特定のキーワードを特定することで解決策を提案することができる。残念ながら、この過程でミスがあると幻覚がトリガーされる可能性がある。
基本的に、AIが操作する言葉の本当の意味を理解することはない。 エミリー・M・ベンダー教授 言語学の専門家であるエミリー・M・ベンダー教授は、LLMの視点を完璧に要約している：cat』という単語を見れば、すぐに猫や猫に関することを連想する。大規模な言語モデルにとって、それはC-A-T.😹の文字列である。
我々の世界におけるAIの幻覚例
AIの幻覚は、様々な実例が示すように、多面的な課題をもたらす。4つのカテゴリーを見てみよう。👀
1.法律専門職
2023年5月、弁護士は 結果に直面する ChatGPTを使って架空の法的見解と引用を含む動議を作成した後、このモデルがテキストを誤って生成する機能があることに気づかなかった。
2.個人に関する誤った情報
ChatGPTは、以下のような虚偽のシナリオを広めるために使用されています。 法学部の教授をハラスメントで訴えた そして誤って オーストラリアの市長を贈収賄事件に巻き込む 風評被害などの深刻な結果を招いた。
3.意図的または敵対的な攻撃
悪意のある行為者はデータを微妙に操作し、AIシステムに情報を誤って解釈させることができる。例えば、誰かがAIシステムを次のように設定した。 猫の画像をワカモレの画像と誤認させる。 AIツールのゲートキーピングの不備による脆弱性を浮き彫りにしている。
4.AIチャットボット
AIチャットボットと対話し、情報を求めたり、ただ楽しんだりすることを想像してみてほしい。彼らの応答は魅力的かもしれないが、完全な作り話である可能性が高い。
例えば、King Renoitの場合を考えてみましょう。ChatGPTと他のAIチャットボットを考えてみましょう。リノワ王とは誰ですか？
guardrails"_（ポジティブで偏りのない出力を保証するための設定フレームワーク）があれば、ChatGPTは答えがわからないと認めるかもしれない。しかし、同じ基盤技術(GPT)を使って構築された、より制限の少ないAIツールは、この存在しない王の伝記を自信を持って捏造するかもしれません。
生成AIシステムで可能なAIの幻覚の種類
AIの幻覚の程度は様々で、微妙な事実の矛盾から全くのでたらめまで、その範囲は多岐にわたる。ここでは、一般的なAIの幻覚の3つのタイプに焦点を当ててみよう：
1.入力が矛盾する幻覚
これは、LLMが、ユーザーによって提供されたオリジナルのプロンプトと大幅に矛盾したり、逸脱したりするコンテンツを生成するときに発生する。
**AIアシスタントに尋ねることを想像してみよう。
象は、その印象的な飛行能力で知られています。
2.文脈が矛盾する幻覚
これは、LLMが同じ会話の中で、以前に確立された情報から離れた応答を生成するときに起こる。
例えば、あなたがAIと冥王星と太陽系について対話をしていて、LLMが矮小惑星の冷たく岩のような地形について話したとしよう。次に、冥王星が生命をサポートしているかどうかを尋ねると、LLMは冥王星の緑豊かな森と広大な海について説明し始める。やばい！☀️
3.事実と矛盾する幻覚
AIの幻覚の最も一般的なフォームの中に、事実と異なるものがある。生成されたテキストはもっともらしく見えるが、最終的には真実ではない。回答の全体的なコンセプトは現実と一致しているかもしれないが、具体的な内容には欠陥がある可能性がある。
例えば、2023年2月、GoogleのチャットボットBard AIは、次のような結果を出した。
/参照 https://www.theverge.com/2023/2/8/23590864/google-ai-chatbot-bard-mistake-error-exoplanet-demo が誤って /%href/
は、ジェイムズ・ウェッブ宇宙望遠鏡が太陽系外の惑星の最初の画像を捉えたと誤って主張した。しかし、NASAは、最初の太陽系外惑星の画像は、2021年の特定のジェイムズ・ウェッブ宇宙望遠鏡の打ち上げよりも前の2004年に得られたことを確認した。
AI 幻覚の影響
AIツールが回答や解決策を生成するのに数ミリ秒かかるが、特にユーザーの目が肥えていない場合、正解でない回答の影響は深刻なものとなる。よくある結果には、以下のようなものがある：
- 誤った情報の拡散： AIによる幻覚によって促進される誤った情報の拡散は、社会に重大なリスクをもたらす。効果的なファクトチェックの仕組みがなければ、こうした不正確な情報がAIが生成したニュース記事に浸透し、個人またはビジネスの中傷や大衆操作につながる偽情報の連鎖を招く結果となりかねない。AIが生成した誤ったコンテンツをメッセージに使用することになったビジネスも、風評被害に苦しむ可能性がある。
- ユーザーへの被害： AIによる幻覚は、全面的に危険な場合もある。例えば、AIが作成したキノコ採りの本が、食用キノコと毒キノコの区別について不正確な情報を提供している。
AI の幻覚問題を軽減する方法
AIの幻覚を軽減するための専門家のヒントとトリックをいくつか紹介しよう。
学習データの多様性と代表性を確保する
前述のセクションで説明したように、トレーニングデータが不十分だと、AIモデルが幻覚を起こしやすくなることがよくある。したがって、もしあなたがAIツールを構築しているのであれば、SOSを含む多様で代表的なデータセットで学習させるようにしましょう。LLMに、一般的なモデルではしばしばやることのできない、文脈に関連した情報を盛り込んだ回答を生成させることだ。
Retrieval Augmented Generation (RAG)として知られる強力なテクニックのひとつは、LLMに精選された知識のプールを提示し、幻覚傾向を抑制する。さらに、定期的な更新と拡張だけでなく、データセットの様々な領域にわたる包括性と表現が、偏った出力のリスクを軽減する。
そして、もしあなたが単なるユーザーであれば、やることは、公開モデルよりも訓練されたAIツールを選ぶことだけだ。インスタンスンス
/参照 https://clickup.com/ja/blog/134794/undefined/ ClickUp Brainを選ぶことができる。 /%href/
高度に文脈的なデータセットで訓練された世界初の生成AIニューラルネットワーク。
一般的なGPTツールとは異なり、ClickUp Brainは様々な仕事の役割やユースケースに合わせてトレーニングされ、最適化されています。その応答は状況に即しており、首尾一貫しているため、以下のような用途に活用できます：
- アイデア /アイデア https://clickup.com/ja/blog/104860/undefined/ ブレーンストーミングとマインドマップ /%href/
- あらゆるコンテンツの作成とコミュニケーション
- コンテンツを編集し要約する
- ワークスペース知識の管理と抽出
ChatGPT Prompts for Engineering Templateを使って、ChatGPTのメリットを仕事に活かしてください。
その ClickUp ChatGPT プロンプト エンジニアテンプレート は、AIコード、バグレポート、データ分析など、12以上のカテゴリのプロンプト設定を提供します。含まれるもの
- 220以上のエンジニアリング用プロンプトがあり、以下のようなアイデアに役立ちます。プロジェクト構造最適なデータ整理とタスク管理を保証する
のような具体的なプロンプトにより、明確な指示を提供し、最終的な計算が信頼でき、正確であることを保証します。
さらに、ユーザーマニュアル、提案書、調査レポートの作成などのテクニカルライティングタスクのために、ビルトインAIアシスタンスを利用できます。
ClickUp ChatGPT プロンプトの書き方
ChatGPT Prompts for Writing Templateは、あなたの中の言葉巧みな才能を目覚めさせるのに役立ちます。
その
/参照 https://clickup.com/templates/chatgpt-prompts-for-writing-kkmvq-6387767 ClickUp ChatGPTプロンプト作成テンプレート /%href/
を使えば、記事、ブログ記事、その他のコンテンツフォーマット用の新鮮なアイデアやコンテンツを簡単に生み出し、読者の共感を呼ぶユニークな視点で魅力的なストーリーを作り上げ、斬新なトピックやアプローチをブレインストーミングして文章を活性化させることができます。
例えば、このテンプレートのプロンプト「読者に納得してもらえるような説得力のある文章を作成する必要があります：
1.欲しいAI生成コンテンツのタイプ（ソーシャルメディアの投稿、ブログ、ランディングページなど） 2.コピーの主な目標（この場合、説得や納得させること 3.カスタマに取ってもらいたいアクション
これらの指示により、AIモデルは、誤ったコンテンツを出力することなく、あらゆるニーズを考慮した超詳細なコピーを作成することができる。
含まれるもの
- ユニークなコンテンツを生み出すのに役立つ200以上のプロンプトの選択。
- 以下のような時間追跡機能へのアクセス。 /参照 https://clickup.com/features/reminders リマインダー /リマインダー と見積もり を使えば、生産性を10倍に高めることができます！
この包括的なテンプレートは、ほぼすべてのプロジェクト管理の課題に対処するための多様なプロンプトを提供します：
- アジャイルやウォーターフォールの方法論や、プロジェクトに最適なアプローチを特定する
- 繰り返しタスクの効率化
- /参照 https://clickup.com/ja/blog/14118/undefined/ 正確なタイムラインの作成 /%href/ プロジェクトの円滑な実施のために
プロジェクトを成功させ、[プロジェクトの種類]_に関連するリスクを最小化するための戦略を探しています。
2.ClickUp Brainを使用した専門性の高いAI生成コンテンツ
ClickUp Brainは、AIが生成するコンテンツに対応するニューラルネットワークです。
/参照 https://clickup.com/ja/blog/4320/undefined/ 秘密の生産性ブースター /%href/
あなたのチームのために。あなたがマネージャーであろうと開発者であろうと、100以上のリサーチに基づいた役割別のプロンプトを簡単に活用し、あらゆる仕事を支援することができます。例えば、ブレインストーミングのアイデア出しや、レポート作成にも使えます：
- 従業員のオンボーディング
- 会社の方針
- タスクの進捗状況
- スプリント目標
毎週更新されるプロジェクトのすべてを要約するオプションもあり、仕事の概要を素早く把握するのに役立つ。また プロジェクト文書 SOP、契約書、ガイドラインなどのプロジェクト文書作成に、ClickUp Brainのライティング機能が最適です！
ClickUp Brainは生成AIツールであるだけでなく、あなたの会社のポートフォリオの知識マネージャーでもあります。ニューラル・ネットワークがあなたのタスク、ドキュメント、仕事上の議論をすべて接続し、簡単な質問やコマンドで関連データを抽出することができます。
ClickUp Brainを使えば、ClickUpに接続されたどの仕事からでも、コンテキストに基づいた正確な回答を瞬時に得ることができます。
AI 幻覚についての意見
AIの幻覚問題は、AIコミュニティ内で対照的な見解を巻き起こしている。
例えば、ChatGPTの作成者であるOpenAIは、幻覚問題を大きな懸念事項として認めている。共同設立者 ジョン・シュルマン 捏造のリスクを強調し、次のように述べている - 「モデルが捏造を好むため、私たちが最も懸念したのは事実性だった。
一方、OpenAIのCEOであるサム・アルトマンは、AIが幻覚を作り出す能力そのものを、創造性と革新性の表れだとビューしている。この対照的な視点は、AIの出力と期待にまつわる複雑な一般大衆の物語を浮き彫りにしている。
IBM Watsonもまた、責任あるAI開発と強固なセーフガードの必要性についての疑問を探るのに役立ったソリューションである。いつ
/参照 https://www.statnews.com/2017/09/05/watson-ibm-cancer/ IBM Watsonが医療データの分析を目指したとき /%href/
このモデルは、潜在的ながん患者のために、不正確な推奨を生成し、混乱を招く検査につながった。
ワトソンの限界を認識したIBMは、AIと人間のコラボレーションの必要性を強調した。その結果
/参照 https://www.ibm.com/docs/en/cloud-paks/cp-data/4.8.x?topic=governance-evaluating-ai-models Watson OpenScaleの開発につながった。 /%href/
AIを管理するためのツールをユーザーに提供し、より公平で偏りのないAIを実現するオープンプラットフォーム。
クリックUpでAIの幻覚を防ぐ
グーグル、マイクロソフト、OpenAIのような一流テック企業は、これらのリスクを最小限に抑えるためのソリューションを積極的に模索しているが、現代のチームは修正の到着をいつまでも待っていることはできない。
AIの幻覚という落とし穴を無視することはできないが、適切なツールを使用し、古き良き人間の見識を働かせれば、かなり解決可能な問題だ。最善の解決策は？クリックアップの業界別プロンプト、無料テンプレート、ライティング機能を活用し、幻覚のインスタンスを最小限に抑えましょう。
/参照 https://clickup.com/signup ClickUpに登録する /%href/
今日から成功へのプロンプトを始めよう！ ❣️