AIが人の周囲の仕組みを改善したら

多くのAI製品は、アプリを開き、質問し、助言に従うことを人に求めます。私が考えたいのは、人の周囲の条件をAIが改善し、使っていない人の生活にも恩恵が届く仕組みです。

それがマネージャーの構想です。共有環境へ働きかける方向を、ここではWorld Engineeringと呼びます。共有環境をモデル化し、変更を比較し、その環境を変える権限を持つ運営者との接続を通じて実行し、測定した結果から学びます。

環境とは場所だけではありません。何が手に入るか、いくらかかるか、どこから行けるか、いつ使えるか、資源と機会がどのルールで配られるかも含みます。サービスの配置が変われば、人が選べる行動が変わります。配分のルールが変われば、負担を負う人が変わります。個人への助言とは違う、共通の構造を通じた作用です。

Aniccaの使命は End suffering.。身体と精神の健康、経済的な安心を支える条件の改善を、この使命につながる課題として考えます。

学ぶべき先行例はあります。SimileとAaruは人間の反応を予測する方向、Generative Agentsは記憶・振り返り・計画、Concordiaは主体と世界の相互作用、AI Economistは経済主体と制度を変えるplanner、AgentSocietyは人口・移動・社会・経済を接続する方向です。それぞれ別の部分を扱っています。

難しいのは証拠です。自然なシミュレーションでも現実を外すことがあります。質問回答の予測が当たっても、制度を変えた後の行動が当たるとは限りません。変更の実行が成功しても、生活が良くなるとは限りません。

そこで評価を四つに分けます。反応を予測できるか。良い構造変更を選べるか。本当に適用し、変更を確認できるか。適切な対照と比べ、現実の成果が改善したか。

アクセスの改善は、そのまま健康の改善ではありません。企業の利益は、受益者の豊かさではありません。平均の改善は、一部の人の悪化を隠す場合があります。主張ごとに範囲、費用、不確実性、根拠が必要です。

この構想を検証するには、資源と制度を明示し、行動予測を分離し、基準との比較と未見条件での評価を再現できる環境が必要です。構想と、実地で効果を確かめた範囲は分けて報告します。

受益者のログインは不要にしたい。一方、作用の説明と検証は必要です。何を変え、何を測り、何が失敗し、誰に恩恵があったかを追えるようにする。構想は広く、証拠は具体的に作っていきます。

出典: Generative Agents、個人シミュレーション、Concordia、AI Economist、AgentSociety、Simile、Aaru。参照は提携や推薦を意味しません。