Critical Essay: Simulated Consensus JP
批評文《Simulated Consensus》
ホッブズ・マシン?: 青木竜太のSimulated Consensus
ソ・ドンジン | Professor of Intermedia Art, Kaywon University of Art & Design.
本稿は ACC CREATORS Residency 2024 カタログ所収の原稿を、国立アジア文化殿堂(ACC)および著者の許可を得て再掲しています。なおChatGPTを用いて翻訳しています。
青木竜太の《Simulated Consensus》は、AI をめぐる熱狂や陶酔が支配的な美術界の風潮から大きく逸脱する点で際立っている。AI の経済効果を讃える粗雑な礼讃にも、また「実/虚」の関係や AI 生成物の「リアリティ」をめぐる不毛な哲学談義の拡張にも与さず、むしろ AI を〈政治的マシン〉として捉え直す問いを提示している。ゆえに本作は、ACC CREATORS Residency 2024「AI·Human·Multiverse」においても特異な位置を占める。何より注目すべきは、AI の視覚的幻惑に焦点を当てる多くの作品群と異なり、AI がもたらす〈政治的知覚〉の在り方へと関心を向けている点である。
《Simulated Consensus》は、民主制を象徴する最も代表的な行為としての「投票」を検証する。リベラルな代表制民主主義は、社会の〈一般意思〉のシミュレーションにほかならない。そこでは個が投票という行為を通じて自己の意志を表明し、それらが総和として一般意思を形成すると想定される。青木は「コンセンサス(合意)」という語を、操作・制限された諸変数が平均化され得る「可算的なもの」として用い、計算の産物として出現する「世論」がリベラリズムが前提とする政治的表象の実現形態であると指摘する。それは巨大な計算機であるが、単に票を集計する装置ではない。ここでは大規模言語モデル(LLM)を介した「投票」が行われ、その媒介装置は AI が生成した有権者ペルソナである。すなわち、AI による〈投票者=市民〉像の可能性が描かれている。
この意味で、青木の問いは多層的である。まず、AI が政治主体として機能し得ると想定したとき、民主主義という「装置」の内部でどのような効果を生むのか。AI 生成の政治主体が人間と同等の選択を下すなら、特定の選好へと誘導する言語モデル世界を現実に移植し、政治的選択を操作することが可能となる。これは決して未知の話ではない。オンライン投稿の操作疑惑、サムネイルと特定キーワードに収斂する内部プラットフォーム、そしてアルゴリズムが世論を増幅する SNS の「憤怒マシン」[1]――そうした現象はすでに「合意」がシミュレーションされ、民主的代表を代替していることを示唆している。結果として、表象と選択の行為は自律的意志ではなく、それを煽り促進する「意見」によって規定されかねない。近年の韓国では、偏執的極右グループが YouTube で描いた幻想世界(擬似合意)を根拠に戒厳令を唱えた狂信的指導者が悲劇的結末を招いた。クーデターは挫かれたものの、アルゴリズム駆動の動画が偏執的ファンタジーと言語世界を生み出す現実を改めて突きつけたのである。
■
青木のプロジェクトは、民主主義のアプリオリな前提にも切り込む。そこにはリベラリズムが「現実の駆動力を個々の選択の結果とみなす」という根本的ジレンマが横たわる。アルゴリズム化した集団行為のもとで、労働者が自らの階級利益に反する極右政治家に投票したり、左派支持者が政治的正しさを極端化して自らのビジョンを担う社会主体を嘲笑の対象とする――こうした階級政治の危機の徴候は枚挙にいとまがない。新自由主義的グローバル化がもたらしたリベラル経済秩序は、〈格差〉という語では語り尽くせぬほどの不平等を常態化させた。金融化された経済は「雇用なき成長」を常態化し、「プラットフォーム労働」が示すように不安定就労が蔓延し、労働に付随する権利(社会保障)は剥奪されつつある。「労働なき労働者」という状況は、個が〈階級〉として集団的主体を形成し、自らの経験や意識を主観化する可能性自体を閉ざしている[2]。
ゆえに AI の政治化は一層脅威となる。AI は集団的利益を個々の選択の計算へと還元し、その選択を瞬時に「意見」や「合意」として表示する。私たちが経験を内省し自己認識を形成する余地は奪われ、ただ追従するほかなくなる。青木の言葉を借りれば、私たちは自動的に「シミュレーテッド・コンセンサス」の世界へと運ばれるのである。その世界を駆動するのは、ビッグテックと巨大資本が結託した情報通信産業だ。共同的思考と経験を私有化しようとする巨大プラットフォームに抗し得る枠組みを再設計することが急務となっている。プラットフォームが社会基盤と化した国々では、そのリスクはプラットフォーム経由の利益にとどまらず、民主主義それ自体を脅かしている。
したがって「ポピュリズムがリベラル民主主義を脅かす張本人であり、背後に SNS がある」という理解は誤りだ。社会的利益の代表が阻害されるとき、ポピュリズムはその隙間を突く。カリスマ的指導者を市場のブランド選択のごとく選び、炎上投稿を中心とする意見潮流に乗る――それは市場を席巻するトレンドに参加する行為と酷似している。彼らは挫折した欲望を叶えてくれる幻想的存在を絶えず求め漂流する。つまり、AI がプログラムするリベラル民主主義の仮説を再設計しない限り、私たちはシミュレーテッド・コンセンサスの世界から脱却できない。これは決して不可能ではない。サルバドール・アジェンデがチリで民主的社会主義を志した際、大衆の自律的統治を実現する「AI」を構想した。米国支援の軍人ピノチェトが流血クーデターで葬ったのは、まさに草の根 AI、すなわち新たな社会を希求するユートピア的衝動だったことを忘れてはならない[3]。
■
青木竜太の《Simulated Consensus》において、ルソー的政治/コミュニケーション装置としての AI――〈一般意思〉を生成するデモクラシー・マシン――はきわめて流動的だ。それは「歴史の終焉」観が支配する現代、リベラル民主主義に代替なきものと信じる世界を強固に支えるプラットフォーム内の巨大機械として存在する。しかし同時に、独自に設計された新たな AI による再調整の可能性をほのかに示唆する。青木の来歴はその期待を高める。彼はかつて通信企業で働いたエンジニアであり、アーティストであり、ソーシャル・アントレプレナーでもある。自身の実践を「ソーシャル・スカルプチャー」と称するのはそのためだ。すなわち、芸術行為を社会生活のデザインと見なしている。だからこそ AI が生み出す歪んだ社会性に敏感に反応するのは必然だろう。民主主義は「コンセンサス」「一般意思」の名の下に社会性を生産する政治的制度/機構である。だが内部には複数の民主主義モデルが併存する。《Simulated Consensus》は、AI の潜在的バイアスに対する警鐘としての実験であると同時に、AI に内在する民主主義モデルを顕在化させる批判的出発点でもある。青木版〈AI デモクラシー〉の次なるアップデートに、私は大いに期待している。
[1] Tobias Rose-Stockwell, Outrage Machine: How Tech Amplifies Discontent, Disrupts Democracy―And What
We Can Do About It, Korean translated by Hong Seonyeong (Sigongsa, 2024).
[2] Phil Jones, Work without the Worker: Labour in the Age of Platform Capitalism, Korean translated by Kim
Gomyeong. (Rollercoaster, 2022).
[3] Seo Dongjin, “An Incoherent Techno-Utopia: The Ideology of the Fourth Industrial Revolution,” The Quarterly
Changbi, vol. 45, no. 3 (2017).