AIはどのようにして選挙を乗っ取ることができるのか

Sep 08, 2023

AI主導の政治運動はすべての人にとって重要になる可能性がある

以下のエッセイは、最新の研究をカバーするオンライン出版物である The Conversation から許可を得て転載されています。 Scientific American のライターによって変更されており、オリジナルとは異なる場合があります。

組織は ChatGPT などの人工知能言語モデルを使用して、有権者に特定の行動を促すことができるでしょうか?

ジョシュ・ホーリー上院議員は、2023年5月16日に行われた人工知能に関する米上院公聴会で、OpenAIの最高経営責任者（CEO）サム・アルトマン氏にこの質問をした。 アルトマン氏は、一部の人々が言語モデルを使用して有権者を操作し、説得し、有権者と一対一のやりとりを行う可能性があることを確かに懸念していると答えた。

アルトマンが想像した/念頭に置いていたかもしれないシナリオは次のとおりです。間もなく、政治技術者がブラック ボックス内の政治キャンペーンであるクロガーと呼ばれるマシンを開発すると想像してください。 Clogger はただ 1 つの目的を執拗に追求します。それは、自社の候補者 (Clogger Inc. のサービスを購入するキャンペーン) が選挙で​​勝利する可能性を最大化することです。

Facebook、Twitter、YouTube などのプラットフォームは、ユーザーのサイト滞在時間を増やすために AI を使用していますが、Clogger の AI には、人々の投票行動を変えるという別の目的があるでしょう。

テクノロジーと民主主義の交差点を研究する政治学者であり法学者として、私たちはクロガーのようなものが自動化を利用して、2000年代初頭から政治キャンペーンで使用されてきた行動操作やマイクロターゲティング技術の規模と潜在的な効果を劇的に増大させることができると信じています。 。 現在、広告主があなたの閲覧履歴やソーシャルメディア履歴を利用して商業広告や政治広告を個別にターゲットにしているのと同じように、クロガーはあなた、そして他の何億人もの有権者に個別に注目するでしょう。

それは、現在の最先端のアルゴリズムによる動作操作よりも 3 つの進歩をもたらします。 まず、その言語モデルは、ユーザー個人に合わせたメッセージ (テキスト、ソーシャル メディア、電子メール、おそらく画像やビデオを含む) を生成します。 広告主が戦略的に掲載する広告の数は比較的少ないのに対し、ChatGPT などの言語モデルでは、キャンペーン中に個人向けに無数のユニークなメッセージを生成し、他の人向けに数百万のメッセージを生成できます。

次に、Clogger は強化学習と呼ばれる手法を使用して、投票を変える可能性がますます高くなるメッセージを生成します。 強化学習は、目的を達成する方法を学習するために、コンピューターがアクションを実行し、どの作業がより効果的であるかについてのフィードバックを取得する、機械学習の試行錯誤のアプローチです。 囲碁、チェス、その他多くのビデオ ゲームを人間よりも上手にプレイできるマシンは、強化学習を使用しています。そして最後に、キャンペーンの過程で、クロガーのメッセージは、以前のディスパッチに対するユーザーの応答と変化について学習した内容を考慮して進化する可能性があります。他人の心。 Clogger は、あなたや他の何百万人もの人々と、時間の経過とともにダイナミックな「会話」を続けます。 Clogger のメッセージは、さまざまな Web サイトやソーシャル メディアにわたってユーザーをフォローする広告に似ています。

さらに 3 つの機能 (またはバグ) は注目に値します。

まず、Clogger が送信するメッセージは政治的なものである場合とそうでない場合があります。 このマシンの唯一の目標は得票率を最大化することであり、この目標を達成するための人間の運動家なら考えつかないような戦略を考案する可能性が高い。

可能性の 1 つは、反対派の有権者が受け取る政治的メッセージを葬り去るために、スポーツやエンターテイメントに対する非政治的な情熱に関する情報を投票者に送信することです。 もう 1 つの可能性は、相手のメッセージに合わせて不快なメッセージ (失禁に関する広告など) を送信することです。 そしてもう1つは、有権者のソーシャルメディアグループを操作して、家族、隣人、友人がその候補者を支持していると思わせることだ。

第二に、クロガーは真実を無視します。 確かに、何が真実か虚偽かを知る方法はありません。 このマシンの目的は正確な情報を提供することではなく、投票を変更することであるため、言語モデルの「幻覚」は問題になりません。

最後に、これはブラックボックスタイプの人工知能であるため、人々はそれがどのような戦略を使用しているかを知る方法がありません。

共和党大統領陣営が2024年にクロガーを配備した場合、民主党陣営もおそらく同様の機械で同様の対応を余儀なくされるだろう。 ドガーと呼んでください。 もし選挙運動責任者がこれらの機械が効果的だと考えていたなら、大統領選挙はクロッガー対ドッガーの勝負になり、勝者はより効果的な機械のクライアントとなるだろう。

その日に勝ったコンテンツは、候補者や政党からではなく、独自の政治的思想を持たず、勝利のみに焦点を当てた AI からのものだったでしょう。 この非常に重要な意味では、人間ではなく機械が選挙に勝ったでしょう。 たとえ演説、広告、メッセージ、投票、開票といった民主主義の通常の活動がすべて行われたとしても、選挙はもはや民主的ではなくなるだろう。

AI によって選出された大統領は、2 つの方法のいずれかを選択する可能性があります。 彼または彼女は、共和党または民主党の政策を追求するために選挙の役割を利用することができます。 しかし、党の考えは人々がそのように投票した理由とはほとんど関係がなかった可能性があるため（クロガー氏とドガー氏は政策見解を気にしていない）、大統領の行動が必ずしも有権者の意思を反映しているとは限らない。 有権者は政治指導者や政策を自由に選ぶことができず、AIに操作されていただろう。

もう一つの道は、大統領が再選の可能性を最大化すると機械が予測するメッセージ、行動、政策を追求することだ。 この道では、大統領は権力の維持以外に特定の綱領や政策を持たないだろう。 クロガーに導かれた大統領の行動は、有権者の真の利益や大統領自身のイデオロギーにかなうものではなく、有権者を操作する可能性が最も高いものとなるだろう。

候補者、選挙陣営、コンサルタントが全員そのような政治AIの使用を認めれば、AIによる選挙操作を回避することは可能だろう。 私たちはその可能性は低いと信じています。 政治的に効果的なブラックボックスが開発された場合、競争圧力によりその使用はほとんど抵抗できなくなるでしょう。 実際、政治コンサルタントは、候補者の勝利を支援するために、専門的責任に応じてこれらのツールを使用することを検討しているかもしれません。 そして、1人の候補者がそのような効果的な手段を使用すると、反対派が一方的に武装解除して抵抗することはほとんど期待できません。

プライバシー保護の強化が役立つでしょう。 クロガーは、個人をターゲットにし、説得または操作するためにカスタマイズされたメッセージを作成し、キャンペーン中に追跡して再ターゲットするために、膨大な個人データへのアクセスに依存します。 企業や政策立案者がその情報を少しでも否定すると、マシンの効果は低下します。

もう一つの解決策は選挙管理委員会にあります。 彼らはこれらのマシンを禁止したり、厳しく規制したりする可能性があります。 たとえそれが政治的なものであっても、そのような「レプリカント」の言論を規制できるかどうかについては激しい議論が行われている。 米国の極端な言論の自由の伝統により、多くの有力な学者はそれができないと主張している。

しかし、憲法修正第 1 条の保護をこれらのマシンの製品にまで自動的に拡張する理由はありません。 国家が機械に権利を与えるという選択をするのは当然かもしれないが、それは今日の課題に基づいた決定であるべきであり、1789年のジェームズ・マディソンの見解がAIに適用することを意図したものであるという見当違いの仮定ではない。

欧州連合の規制当局はこの方向に動いています。 政策立案者らは欧州議会の人工知能法草案を修正し、「選挙運動で有権者に影響を与えるAIシステム」を「高リスク」として規制上の監視の対象に指定した。

小規模ではあるが、憲法上より安全な措置の 1 つは、ヨーロッパのインターネット規制当局とカリフォルニア州ですでに部分的に採用されており、ボットが人間になりすますことを禁止することです。 たとえば、キャンペーン メッセージに含まれるコンテンツが人間ではなく機械によって生成された場合、規制によりキャンペーン メッセージに免責事項を含めることが求められる場合があります。

これは、広告の免責条項 – 「議会委員会のサム・ジョーンズによって支払われた」 – に似ていますが、AI の起源を反映するように修正されています: 「この AI で生成された広告は、議会委員会のサム・ジョーンズによって支払われました。」 より強力なバージョンでは、「この AI 生成メッセージは、サム・ジョーンズ議会委員会によってあなたに送信されています。これは、そうすることでサム・ジョーンズに投票する可能性が 0.0002% 増加するとクロガーが予測したためです。」 少なくとも、有権者は自分たちに話しかけているのがボットであることを知る権利があり、その理由も知る必要があると私たちは考えています。

クロッガーのようなシステムの可能性は、人間の集団的無力化への道には超人的な汎用人工知能を必要としない可能性があることを示しています。 それには、何百万もの人々の多くのボタンを効果的に押すことができる強力な新しいツールを備えた熱心な運動家やコンサルタントが必要なだけかもしれません。

これは意見および分析記事であり、著者によって表明された見解は必ずしも Scientific American の見解ではありません。

この記事は元々 The Conversation に掲載されたものです。 元の記事を読んでください。

アルコン・ファンハーバード大学ケネディ行政大学院のウィンスロップ・ラフリン・マコーマック教授（市民権と民主主義）。

ローレンス・レッシグハーバード大学法科大学院のロイ・L・ファーマン法学教授です。

リナ・ダイアン・キャバラル

アルコン・ファン、ローレンス・レッシグ、ザ・カンバセーションUS

クララ・モスコヴィッツ

フローラ・リヒトマン

ローレン・J・ヤング

ルーク・テイラーとネイチャー誌