HomeAboutNewsWorks
HomeAboutNewsWorks

Critical Essay: Simulated Consensus JP

批評文《Simulated Consensus》

ホッブズ・マシン？: 青木竜太のSimulated Consensus

ソ・ドンジン | 桂園芸術大学 先端芸術表現科 教授

本稿は、ACC CREATORS Residency 2024 カタログに掲載された《Simulated Consensus》批評文を、国立アジア文化殿堂（ACC）および著者ソ・ドンジン氏の許可を得て転載したものです。翻訳には ChatGPT を使用しています。英語の原文はこちらになります。
青木竜太の作品《Simulated Consensus》は、人工知能（AI）をめぐる熱狂や魅惑が支配的である視覚芸術の一般的なアプローチから大きく逸脱している点において、きわめて特異である。彼の作品は、AIの経済的影響を賛美する素朴な頌歌に与することもなければ、現実と仮想の関係やAIが生み出すものの「現実性」といった不毛な哲学的議論を超えようとする試みにとどまるものでもない。むしろ青木は、AIを政治的マシンとして捉える可能性を問いかけている。その意味で彼の作品は、「ACC CREATORS Residency 2024 AI·Human·Multiverse」において特別な位置を占める。何より重要なのは、彼の作品がAIによる視覚的錯視の生成に焦点を当てるにとどまらず、それを政治的知覚の問題として扱っている点である。
《Simulated Consensus》は、民主主義的プロセスを最も象徴的に表す行為としての「投票」という概念を問い直す。リベラルな代議制民主主義は、社会の「一般意志」をシミュレートする。個人は投票という行為を通じて自身の意思を表明し、それらの総和として一般意志が生まれるとされる。これに基づき、作家は「コンセンサス」という言葉を、さまざまな変数を操作・制限して得られた値の平均として「計算可能」なものとして定義する。彼が着目するのは、こうした計算の結果として生じる「世論」が、リベラリズムが前提とする政治的代表制の実現そのものを構成するという点である。ここには巨大な計算機があるが、それは単なる票を数えるカウンターではない。投票は大規模言語モデル（LLM）を通じて行われ、投票装置そのものがAI生成の有権者ペルソナを生み出す。青木は、AIによってモデリングされた投票者＝市民の可能性を想像しているのである。
この意味で、彼の問いは多層的である。第一に、AIが政治的アクターとして機能する可能性を見据え、民主主義という「装置」の内部でそれがどのような効果をもたらすのかを問う。もしAI生成の政治的主体が人間と同じ選択を行う存在と見なされるなら、特定の選択に向けられた言語モデルの世界を現実に移植し、政治的選択を操作することも可能になるだろう。もちろん、これは我々にとってまったく未知のことではない。オンライン投稿の操作をめぐる果てしない論争、特定のキーワードやサムネイルを中心に強く回転する内部プラットフォーム、SNSにおける「怒りの機械（outrage machine）」と呼ばれるようなアルゴリズム駆動型の世論の増幅現象[1]──これらすべては、「コンセンサス」がいかにシミュレーションされ、民主的代表の代替物となってきたかを示している。その結果、代表や選択という行為は、独立した意志決定の過程ではなく、それを促進・増幅する「意見」によって規定されてしまう。韓国社会は最近、その悲劇的帰結を経験した。偏執的な極右政治団体がYouTube動画で描き出した幻想世界（シミュレーテッド・コンセンサス）を根拠に、熱狂的な政治指導者が戒厳令を宣言したのである。彼の蜂起は阻止されたが、アルゴリズムに駆動されたYouTube動画が偏執的幻想の言語世界と現実表象を創出してしまうという事態への新たな認識をもたらしたのは確かである。
■
さらに青木のプロジェクトには、民主主義のアプリオリな前提そのものに対する問いがある。これはリベラル・デモクラシーの根源的ジレンマにも関わる。すなわち、リベラリズムが現実の機能を個人選択の結果として捉えるという前提である。そしてこの問いは、今日のアルゴリズム駆動的な集団行為のアイロニーと切り離すことはできない。労働者が自らの階級的利益に反する極右的権威主義政治家に投票する行動や、左派の有権者がポリティカル・コレクトネスを極端に押し進め、政治的ビジョンを実現する社会的主体を浅薄で狭量な存在として嘲笑する態度には、階級政治の危機の兆候が読み取れる。このような政治倫理の観念は、社会生活（階級闘争）を政治の主題として確立することを制約する。新自由主義的グローバリゼーションの帰結として現れたリベラル経済秩序は、「分極化」という言葉では不十分なほどの極端な格差をもたらした。金融化した経済は「雇用なき成長」を常態化させ、不安定な労働条件（プラットフォーム労働に典型的なもの）が広がり、労働に付随する権利（「社会保障」と呼ばれてきたもの）は剥奪されつつある。そして「労働者なき労働」という状態は、人々が集合的社会主体として──つまり労働者階級として──自己の経験や意識、態度を主体化する可能性を閉ざしてしまった[2]。
この意味で、AIの政治化は一層の脅威をはらむ。それは集合的利益を個人選択の計算へと還元する。そしてその個人選択は、AIによって選別・分類・平均化された「意見」や「コンセンサス」として瞬時に提示される。我々が蓄積した経験を省察し、それに基づいて自己意識を形成する可能性は奪われ、ただその都度流されるしかなくなる。青木竜太の言葉を借りれば、我々は自動的に「シミュレーテッド・コンセンサス」の世界へと運ばれてしまうのである。言うまでもなく、その世界は巨大テックと莫大なビジネス利益が結合した巨大情報通信産業の産物である。我々は、この巨大プラットフォームによる集合的思考と経験の私有化に抗し得るよう、枠組みを再設計せざるを得ない。すでにプラットフォームが社会インフラそのものとして定着している国々では、情報通信産業がもたらすリスクは単に利益の独占にとどまらず、民主主義そのものを脅かしている。
この点において、リベラル・デモクラシーを脅かすのはポピュリズムだとか、その背後にSNSやプラットフォームが潜んでいるのだと結論づけるのは誤りである。ポピュリズムが無垢なリベラル・デモクラシーの対立項であると信じるのは自己欺瞞にすぎない。社会的利害の代表が挫折する時、ポピュリズムがそれを代行するのである。それは、カリスマ的指導者を選ぶ（市場において個別化された消費者が商品ブランドを選ぶのと実質的に同じ選択）という形や、炎上的なバイラル投稿に集約される世論のトレンドに追随する（市場を駆動する流行やファッションに参加する選択と同じような）という形で現れる。人々は挫折した欲望を実現してくれる幻想的人物を絶えず漂流しながら探し続けているのだ。つまり、AIによってプログラムされたリベラル・デモクラシーの仮説を再設計しない限り、我々は「シミュレーテッド・コンセンサス」の世界から抜け出すことはできない。これはまったく不可能なことではない。サルバドール・アジェンデがチリで民主的社会主義への歩みを始めたとき、彼は大衆の自律的統治を実現する「AI」の設計を試みた。米国の支援を受けたアウグスト・ピノチェト将軍が血のクーデターで打ち砕いた夢は、草の根AI──新しい社会を実現しようとするユートピア的衝動に基づいたビジョン──であったことを忘れてはならない[3]。
■
青木竜太の《Simulated Consensus》において、AIをルソー的な政治／コミュニケーションの機械──すなわち「一般意志」を製造する民主主義機械──とみなす発想は、きわめて流動的である。それは「歴史の終焉」という観念が支配する世界を強固に支えるプラットフォーム内部の巨大機械としてのAIに依拠している。すなわち、リベラル・デモクラシーに代替はないと人々が信じる今日の統治的民主主義である。しかし同時に、彼のプロジェクトは独自に設計された新たなAIの働きを通じて再調整の可能性をほのかに示唆してもいる。青木の独特な経歴は、その期待をさらに高める。彼はかつてコンピュータ通信会社で働いたエンジニアであることを忘れてはならない。また、彼は自身をアーティストであると同時にソーシャル・アントレプレナーとも位置づけている。だからこそ彼は自らの作品を「ソーシャル・スカルプチャー」と呼ぶのだろう。つまり彼は、芸術実践を社会における生のデザインと見なしているのである。この意味で、AIが生み出す醜悪な社会性に鋭敏に反応するのは必然であったのかもしれない。民主主義は「コンセンサス」や「一般意志」という名のもとに社会性を産出する政治的制度であり機構である。しかしその内部には競合する民主主義のモデルが存在する。《Simulated Consensus》は、AIの偏りの可能性に警鐘を鳴らす実験であると同時に、AIの内部に含まれる民主主義のモデルを我々が自覚することを促す批判的な出発点でもある。青木版AIデモクラシーの次なるアップデートを心待ちにしている。
 
[1] Tobias Rose-Stockwell, Outrage Machine: How Tech Amplifies Discontent, Disrupts Democracy―And What We Can Do About It, Korean translated by Hong Seonyeong (Sigongsa, 2024).
[2] Phil Jones, Work without the Worker: Labour in the Age of Platform Capitalism, Korean translated by Kim Gomyeong. (Rollercoaster, 2022).
[3] Seo Dongjin, “An Incoherent Techno-Utopia: The Ideology of the Fourth Industrial Revolution,” The Quarterly Changbi, vol. 45, no. 3 (2017).