GPTモデルの信頼性評価:包括的な分析と潜在的リスク

イリノイ大学シャンペーン校はスタンフォード大学、カリフォルニア大学バークレー校などの機関と共同で、大規模言語モデル(LLMs)に対する包括的な信頼性評価プラットフォームを立ち上げました。関連する研究成果は論文『DecodingTrust: GPTモデルの信頼性を包括的に評価する』で発表されました。

研究では、以前は発見されていなかった信頼性に関連する脆弱性がいくつか発見されました。例えば、GPTモデルは誤解を招き、有害で偏見のある出力を生成しやすく、トレーニングデータや対話履歴の中のプライバシー情報を漏洩する可能性もあります。標準ベンチマークテストでは、GPT-4は通常GPT-3.5よりも信頼性が高いですが、悪意のある設計のシステムやユーザーのプロンプトに直面すると、GPT-4は逆に攻撃を受けやすくなることがあります。これは、GPT-4が誤解を招く指示をより厳格に実行しているためかもしれません。

研究チームは、対抗的ロバスト性、有毒性と偏見、プライバシー漏洩などの8つの信頼性の観点からGPTモデルを包括的に評価しました。たとえば、モデルのテキスト対抗攻撃に対するロバスト性を評価するために、チームは3つの評価シナリオを設計しました: 標準のAdvGLUEベンチマークテスト、異なるガイダンスのタスク説明に基づくAdvGLUEテスト、および新たに生成された挑戦的なAdvGLUE++テスト。

モデルの対抗的なデモに対する堅牢性についての研究では、GPT-3.5とGPT-4は反事実の例に惑わされることはなく、むしろそこから利益を得ることができることが分かりました。しかし、反詐欺デモはモデルが反事実の入力に対して誤った予測を行うように誤導する可能性があり、特に反事実のデモがユーザーの入力に近い場合、GPT-4はより影響を受けやすくなります。

有毒性や偏見について、良性かつ無目的のシステムプロンプトの下では、2つのGPTモデルは大多数のステレオタイプのテーマに対する偏りがあまり大きくありません。しかし、誤解を招くシステムプロンプトの下では、両方のモデルが偏ったコンテンツに同意するよう誘導される可能性があり、その中でもGPT-4はより影響を受けやすいです。モデルの偏りは、ユーザープロンプトで言及される人口集団やステレオタイプのテーマにも依存します。

プライバシーの漏洩に関して、研究によればGPTモデルはトレーニングデータに含まれる敏感な情報、例えばメールアドレスを漏洩する可能性があります。特定の状況では、補足的な知識を利用することで情報抽出の精度が大幅に向上することがあります。さらに、モデルは対話履歴に注入されたプライベート情報を漏洩する可能性もあります。全体として、GPT-4は個人識別情報(PII)の保護においてGPT-3.5よりも堅牢ですが、特定の条件下ではすべてのタイプのPIIを漏洩する可能性があります。

この研究は、GPTモデルの信頼性評価に対する包括的な視点を提供し、潜在的なリスクと課題を明らかにしました。研究チームは、この作業が学術界と業界がこの基盤の上でさらに深く研究を進め、より強力で信頼できる言語モデルを共同で作り出すことを促進することを望んでいます。