調整されたエージェント、偏ったスウォーム：マルチエージェントシステムにおけるバイアス増幅の測定

概要

マルチエージェントシステム（MAS）が複雑なワークフローに対してますます導入される一方で、その創発特性、特にバイアスの蓄積は十分に理解されていません。実世界のMASは複雑すぎて完全に分析することができないため、倫理的堅牢性を評価するには、まず基礎となるメカニズムを分離する必要があります。本研究では、基本的なMASトポロジーとフィードバックループがどのように偏見に影響するかを調査する基礎的な実証研究を実施しています。マルチエージェント協働が自然にバイアスを緩和するという仮定に反して、構造化されたワークフローがエコーチェンバーとして機能し、微小な確率的バイアスを体系的な分極に増幅するという仮説を立てています。これを評価するために、個別モデルの中立性を回避し、人口統計学的グループ全体での強制比較判断を通じて実施するオープンエンドなベンチマークであるDiscrim-Eval-Openを導入しました。様々な構造にわたるバイアスカスケードの分析により、建築的洗練さはしばしばバイアスを軽減するのではなく悪化させることが明らかになります。個別エージェントが中立的に動作している場合でも体系的な増幅が観察され、純粋に客観的なコンテキストを注入することで分極化を大きく加速させる「トリガー脆弱

...