AIは広く使用されているが、議員はほとんどルールを定めていない

OpenAI「ChatGPT」アプリのようこそ画面が写真イラストでノートパソコンの画面に表示されます。人工知能やその他の自動化システムに対する規制を検討している州が増えています。レオン・ニール/ゲッティイメージズ。

2016 年の秋、コネチカット州児童家族局は、差し迫った危険にさらされている子供たちを特定するのに役立つと約束した予測分析ツールの使用を開始しました。

このツールは、20 を超えるデータポイントを使用して、コネチカット州のシステムで未解決のケースを、結果が芳しくない以前の生活保護ケースと比較しました。次に、各子供は、より迅速な介入が必要ないくつかのケースにフラグを立てる予測スコアを受け取りました。

しかし、より多くの州がこのツールを導入し始めたにもかかわらず、一部の政府機関は、このツールが緊急のケースを見逃したり、それほど深刻ではないケースに不正確にフラグを立てたりしているようであることに気づきました。その後、児童虐待とネグレクト誌に掲載された研究では、子どものアウトカムを改善しなかったことが判明した。コネチカット州と他のいくつかの州は、フロリダ州の民間企業が開発したツールを放棄した。 2021年、コネチカット州児童家族局が初めてこのツールを使用してから5年後、州がこのツールを廃棄してから2年後、エール大学の研究者らは、その仕組みの仕組みについての情報を求めたところ、同局はこのツールをまったく理解していなかった、と結論づけた。

「これは非常に大きな公的責任問題だ」とエール大学ロースクールの臨床講師ケルシー・エバリー氏は語った。「政府機関はこれらのツールを入手し、使用し、信頼していますが、必ずしもそれを理解しているわけではありません。そして、一般の人々は間違いなくこれらのツールを理解していません。なぜなら、彼らはそれらのことを知らないからです。」

コネチカット州は、危険にさらされている子供たちを検査するツールの伝統のおかげで、人工知能やその他の自動化システムに関する明確な規制を通過させた最も新しい州である。 5月30日に可決された超党派の法案は、民主党のネッド・ラモント知事が署名して成立するとみられており、州政府機関に対し、人工知能を使用する政府システムをすべて調査・評価し、さらなる規則を勧告する常設作業部会の設置を義務付ける内容となっている。

多くの州はすでに、差別禁止、消費者保護、データプライバシーに関する法律を通じて、これらのテクノロジーの側面を規制しています。しかし、2018年以降、少なくとも13の州がAIを専門的に研究する委員会を設立し、2019年以降、少なくとも7つの州が政府機関と民間部門の両方で偏見の緩和、透明性の向上、自動システムの使用の制限を目的とした法律を可決した。。

全国州議会会議によると、2023年だけでも27州にワシントンDC、プエルトリコを加えた議員がAI関連の80以上の法案を審議した。

人工知能ツールは、かつては人間が行っていた複雑な分析や問題解決のタスクを実行できる技術として広く定義されていますが、現在では、アメリカ人がソーシャルメディアで何を目にしているのか、どの学生が大学に入学できるのか、そして就職候補者が面接で採点するかどうかを頻繁に決定しています。

IBM Global AI Adoption Index によると、2022 年には米国企業全体の 4 分の 1 以上が何らかの形で AI を使用しました。 AI の普及の顕著な例の 1 つとして、カリフォルニア州のテクノロジーを規制する最近の法案が、食料品業界の業界団体や州の看護師組合など、さまざまな組織からコメントが寄せられました。

しかし、連邦法は行き詰まり、規制は地方自治体に委ねられ、州法と地方自治体法のつぎはぎができあがっている。

「米国は長年、技術規制に関して非常に寛容だった」とブルッキングス研究所技術イノベーションセンターの上級研究員であり、人工知能に関する本の著者であるダレル・M・ウェスト氏は語る。「しかし、スパム、フィッシング、大規模な監視など、規制がないことの落とし穴を目の当たりにするにつれて、社会情勢や政策決定環境は変化しました。人々はこれが規制されることを望んでいます。」

テクノロジーの規制に対する議員の関心は今議会中に急増しており、ChatGPTやその他の消費者向けAIツールの普及のおかげで来年はさらに高まる可能性が高いと、通信・技術タスクフォースのディレクター、ジェイク・モラビト氏は述べた。規制緩和を支持する保守的な米国立法交換評議会（ALEC）。

かつては SF の世界だった人工知能は、現在ではアメリカ人の生活のほぼ隅々にまで浸透しています。専門家や政策立案者は、大量のデータを分析することによって人間の意思決定、問題解決、創造性を模倣するシステムを含めて、この用語を広義に定義することがよくあります。

AI はすでに、一連の音声および画像認識ツール、検索エンジン、スパムフィルター、デジタル地図およびナビゲーションプログラム、オンライン広告およびコンテンツ推奨システムを強化しています。地方自治体は人工知能を活用して、交換すべき鉛給水ラインを特定し、緊急対応を迅速化しています。 2018年に導入された機械学習アルゴリズムにより、ワシントンDCとメリーランド州の5つの病院で敗血症による死亡者数が減少した。

しかし、一部の AI アプリケーションが新たな予想外の社会的利益をもたらしたとしても、専門家は偏った、差別的、または不正確な結果をもたらす無数の自動化システムを文書化しています。たとえば、法執行機関が使用する顔認識サービスでは、白人よりも有色人種を誤って識別する頻度が高いことが繰り返し判明しています。アマゾンは、AI採用ツールが女性求職者に一貫して不利益を与えていることが判明したため、そのツールを廃止した。

バーモント州に本拠を置く人種的正義団体ジャスティス・フォー・オールのエグゼクティブディレクター、マーク・ヒューズ氏は、批評家はAIの偏見や誤りを「ゴミが入ってゴミが出てくる」問題と表現することがある、と語った。ヒューズ氏は昨年、州上院委員会に数回出席し、訓練データに本質的に現れることが多い偏見や組織的な人種差別が自動化システムによって永続するのを防ぐために議員が介入する必要があると証言した。

「テクノロジー、特にAIのようなものは、常に既存のものを複製することを私たちは知っています」とヒューズ氏はステートラインに語った。「そして、大量配布のためにそれを複製する予定です。」

最近では、ユーザーのプロンプトに応じて人間のような文章、リアルな画像、その他のコンテンツを作成できる ChatGPT やその他の生成 AI ツールの出現により、業界および政府関係者の間で新たな懸念が生じています。このようなツールは、労働者を解雇し、消費者のプライバシーを侵害し、著作権を侵害し、偽情報を広め、ヘイトスピーチやハラスメントを増幅させるコンテンツの作成を助長する可能性があると政策立案者は懸念している。最近のロイター/イプソスの世論調査では、アメリカ人の 3 分の 2 以上が AI の悪影響を懸念していると回答し、5 人に 3 人が AI が文明を脅かす可能性があると懸念していると回答しました。

コネチカット州のAI法の擁護者で民主党のジェームズ・マロニー上院議員は、「AIには私たちの働き方に革命を起こし、効率を高める大きな可能性があると思うが、潜在的な危険もある」と述べた。「前進する際には、ただ注意する必要がある。」

マロニー氏は、コネチカット州の新しいAI規制は、自動化システムに取り組むための初期の包括的なモデルの1つを提供するものであり、今後の議会で規制が州政府から民間部門に拡大されることを期待していると述べた。

この法律により、州行政府に新しい人工知能局が設置され、政府の AI システムの新しい標準と政策の開発が任務となります。同庁は年末までに、住宅や医療に関するような「重要な決定」を行うために州機関が使用する自動化システムの一覧表を作成し、それらが透明性と差別禁止に関する一定の要件を満たしていることを文書化する必要がある。

マロニー氏によると、この法律はイェール大学やその他の大学の学者による勧告に加え、バーモント州でも同様の2021年に施行された法律に基づいているという。マロニー氏によると、このモデルは他の州でも表面化する可能性が高く、コロラド州、ミネソタ州、モンタナ州の議員らは現在、コネチカット州と協力して並行してAI政策を策定しており、メリーランド州、マサチューセッツ州、ロードアイランド州、ワシントン州を含むいくつかの州も同様の措置を導入しているとマロニー氏は述べた。

バーモント州では、この法律により、すでに新しい諮問委員会と州の人工知能部門が設置されています。同部門を率いるジョサイア・ライシュ氏は、最初の年次目録の中で、州政府で「約12台」の自動システムが使用されていることを発見した。これらには、AI を使用してポットホールを評価する運輸省のコンピュータービジョンプロジェクトや、州のコンピューターシステム内のマルウェアを検出する一般的なウイルス対策ソフトウェアが含まれます。どちらのツールも差別のリスクを引き起こすものではないとライシュ氏は述べた。

しかし、新興テクノロジーは政府サービスを向上させるとしても、さらなる警戒が必要になる可能性があると同氏は付け加えた。 Raiche 氏は最近、州政府機関が ChatGPT などの生成 AI ツールを使用して、有権者がさまざまな言語で複雑な書類を記入できるようにする方法の実験を開始しました。しかし、予備的な社内トライアルで、Raiche 氏は、サンプル質問に対して ChatGPT がソマリア語よりもドイツ語でより質の高い回答を生成することを発見しました。

同氏は「公平性を確実に維持するためにやるべきことはたくさんある」と述べた。しかし、自動化システムは正しく使えば「人々が政府とやり取りする際に本当に役立つ可能性がある」。

コネチカット州と同様、バーモント州も将来的にはAIの監視を民間部門に拡大する計画だ。ライシュ氏は、同州は消費者データプライバシー法を通じてそれを達成する可能性が高く、同法はAIシステムの基礎となるデータセットを管理し、広範な規制への一種のバックドアとして機能する可能性があると述べた。カリフォルニア州、コネチカット州、コロラド州、ユタ州、バージニア州でも包括的なデータプライバシー法が可決された一方、少数の法域では人工知能の機密性の高い使用やリスクの高い使用を対象としたより狭い規制が採用されている。

たとえば、採用プロセスの一部として AI システムを使用しているニューヨーク市の雇用主は、7 月初旬までに、それらのツールにバイアスがないか監査し、結果を公表する必要があります。一方、コロラド州は保険会社に自動化システムの使用を文書化し、それが不当な差別につながっていないことを証明するよう求めている。

州法と地方法の新たな継ぎ接ぎはテクノロジー企業を悩ませており、AIや自動化システムに対する連邦規制を求め始めている。ブルッキングス研究所のウェスト氏によると、ほとんどのテクノロジー企業は自社のシステムをさまざまな都市や州に合わせてカスタマイズすることができないため、連邦法が存在しない場合、多くの企業が地理的拠点全体にわたって最も厳格な地方規制を採用する必要があることを意味するという。

これは多くの企業が避けたい状況です。 4月、幅広いビジネスおよびテクノロジー団体の代表者がカリフォルニア州のAI法案に反対するために整列した。同法案は民間企業にAIツールのバイアスを監視し、その結果を報告することを義務付けるもので、さもなければ高額の罰金や消費者訴訟に直面することになる。この法案は4月に2度の委員会での採決を生き延びた後、議会歳出委員会で否決された。

ALECのモラビト氏は、「政府は産業界と協力すべきであり、このような敵対的なアプローチをとるべきではない」と述べた。「ここでは市場がリードするようにしてください…多くの民間企業は正しいことを行い、信頼できるAIエコシステムを構築したいと考えています。」

ALEC は、AI 規制に対する代替的な州ベースのアプローチを提案しました。「規制のサンドボックス」と呼ばれるこのプログラムでは、企業が州司法長官事務所と協力して州法に抵触する可能性のある新興技術を試すことができる。モラビト氏は、このようなサンドボックスはイノベーションを促進しながらも、消費者を保護し、政策立案者が法案を作成する前に業界のニーズを教育できると述べた。アリゾナ州とユタ州、そしてデトロイト市は最近、企業がAI実験を実施できる規制サンドボックスを創設した。

しかし、これらのプログラムは、これらの州の議員が AI 規制を追求することを妨げるものではありません。 2022年には共和党が提案する法案がアリゾナ人の「憲法上の権利」をAIが侵害することを禁止することを求めており、ユタ州議会は最近AI法案の可能性を検討する作業部会を招集した。

エール大学のエバリー氏は、政策立案者らはもはやAIを漠然とした懸念や将来の懸念とは考えておらず、連邦政府の行動を待っているわけでもないと述べた。

「私たちが望むか否かに関係なく、AIはここに存在します」と彼女は付け加えた。「それは今や私たちの生活の一部となっています…そして議員たちはただそれを先取りしようとしているだけです。」

朝のヘッドラインをあなたの受信箱に届けましょう

信頼できるサポートニュース。

ケイトリン・デューイ著、オハイオ・キャピタル・ジャーナル、2023年6月6日

私たちのストーリーは、クリエイティブコモンズライセンス CC BY-NC-ND 4.0 に基づいてオンラインまたは印刷物で再公開される場合があります。スタイルを整えるためだけに編集するか、短縮するようお願いします。適切な帰属表示と当社 Web サイトへのリンクを提供してください。写真やグラフィックの使用については、再発行ガイドラインをご覧ください。

ケイトリン・デューイは、ニューヨーク州バッファローを拠点とするステートライン特派員で、ワシントン・ポスト、ニューヨーク・タイムズ、ガーディアン、スレート、エル、コスモポリタンなどの報道機関で記者を務めています。