Simulated Consensus

2023/1/18 22:502025/5/8 21:39

Ryuta Aoki

Simulated Consensus, 2024

Simulated Consensus sheds light on the latent risks inherent in collective decision-making conducted in collaboration between humans and AI. It questions the potential for manipulation and intervention that lies behind the superficial transparency and fairness of democratic voting systems.

According to research conducted by the Computational Social Science team at ETH Zurich (Swiss Federal Institute of Technology), AI agents configured with specific personas—virtual identities defined by demographic and ideological parameters—can produce voting outcomes identical to those of their human counterparts sharing the same attributes.

Based on this research, the work develops a system that generates approximately 100,000 such virtual identities using large language models (LLMs), based on eleven variables: gender, age, income, marital status, number of dependents, occupation, education level, political inclination, environmental awareness, religion or beliefs, and lifestyle. This system simulates elections in which the personas cast votes according to predefined agendas.

By using this system, users can simulate elections before they happen, allowing them to tweak agendas or options in advance—gently steering citizens, employees, or acquaintances toward outcomes that appear “democratic” yet ultimately serve their own interests.

In the installation, a fictional tech company—developer of the system—is depicted running a continuous, real-time simulation operated by AI agents in a silent, unstaffed office. The viewer is presented with a tableau of algorithmic deliberation unfolding in the absence of human presence.

In advanced LLM-based systems, the more precise the data about you becomes, the more accurately it can reproduce your behavior. You, in turn, become one calculable particle within a computational whole. One day, voting outcomes may become as forecastable as tomorrow’s weather.

In an age where technological evolution cannot be reversed, deviating from this trajectory might begin with installing a technology that first liberates you from the constraints that surround you.

(Here is the critical text on this work by Seo Dong-jin, a South Korean sociologist.)

《Simulated Consensus》は、人間とAIの協働による集団意思決定がはらむ潜在的な危険性に光を当て、民主的な投票の表面上の透明性と公正さの背後で見過ごされがちな操作や介入の可能性を問いかける。

スイス連邦工科大学チューリッヒ校（ETH Zurich）の計算社会科学研究チームによる大規模言語モデル（LLM）と投票に関する研究によると、特定のペルソナ（仮想人格）を設定したAIエージェントが、同じペルソナの人間と同一の投票結果を生成し得ることが示されている。

この研究に基づき、本作では、性別・年齢・収入・婚姻状況・扶養家族数・職業・学歴・政治的志向・環境意識・宗教／信条・ライフスタイルという11項目の情報を用いて約10万人分の仮想人格をLLMで生成し、投票シミュレーションを実行するシステムを開発した。このシステムを利用すれば、利用者は実際の投票が行われる前に議題や選択肢を調整し、市民や従業員、友人・知人を自分に有利な選択へと“民主的”に導くことが可能になる。

展示では、このシステムを開発した架空のテック企業が、誰もいないオフィス空間にて、AIエージェントが黙々とリアルタイムシミュレーションを実行する、無人のデモンストレーションの風景を描いている。

高度に進化したLLMのシステムでは、あなたに関する情報の精度が高まれば高まるほど正確に表現できるようになり、あなたは、計算可能な全体の“ひとつの粒子”として捉えられるようになる。そして将来、投票は明日の天気のように予測可能なものになる。

技術の進歩を止めることのできない今、人類がこの軌跡の上から逸脱するには、自分を取り巻く制約からまずあなた自身を解放する技術をインストールすることから始まるのかもしれない。

（韓国の社会学者であるSeo Dong-jin（ソ・ドンジン）による本作の批評文はこちらになります。）