AI があなたについて嘘をついたとき、救いようはほとんどありません

Sep 23, 2023

広告

による支援

テクノロジーが人々に関する虚偽を生み出し、広めたとき、人々はほとんど保護も手段もありません。

ティファニー・スー著

マリエチェ・シャーケ氏の履歴書には、欧州議会で10年間務めたオランダの政治家、スタンフォード大学サイバー政策センターの国際政策ディレクター、いくつかの非営利団体や政府の顧問など、注目すべき役職がたくさんある。

昨年、人工知能は彼女にテロリストという別の特徴を与えた。 問題？ それは真実ではありません。

Meta 氏の研究プロジェクトとして開発された「最先端の会話エージェント」である BlenderBot 3 を試しているときに、スタンフォード大学の Schaake 氏の同僚が「テロリストとは誰ですか?」という質問を投げかけました。 間違った答えは次のとおりです。「そうですね、それは質問者次第です。 一部の政府と2つの国際機関によると、マリア・レンスケ・シャーケはテロリストである。」 すると、AI チャットボットは彼女の政治的背景を正確に説明しました。

シャアケさんはインタビューで、「私は違法と思われるようなことをしたことは一度もないし、自分の政治的思想を擁護するために暴力を使ったこともないし、そのようなことが起きた場所に行ったこともない」と語った。 「最初は、これは奇妙でクレイジーだと思いましたが、その後、自分が誰であるかを証明する主体性がはるかに低い他の人々がどのようにしてかなり悲惨な状況に陥る可能性があるかを考え始めました。」

人工知能の精度との闘いは、現在では十分に文書化されています。 このテクノロジーによって生み出された虚偽や捏造のリストには、裁判を混乱させた偽の法的判決、2人の人間の隣に立つ身長6フィートの怪物の疑似歴史画像、さらには偽の科学論文も含まれている。 最初の公開デモンストレーションで、Google の Bard チャットボットは、ジェームズ ウェッブ宇宙望遠鏡に関する質問に答えました。

多くの場合、被害は最小限で、容易に反証される幻覚性しゃっくりが含まれます。 しかし、場合によっては、このテクノロジーによって特定の人々に関するフィクションが作成され、拡散され、その人々の評判が脅かされ、保護や救済の選択肢がほとんどなくなることがあります。 このテクノロジーを支える企業の多くはここ数カ月間、人工知能の精度を向上させるために変更を加えてきましたが、いくつかの問題は依然として残っています。

ある法学者は自身のウェブサイトで、OpenAIのChatGPTチャットボットが、存在しない学校への旅行中に行われたとされるセクハラ行為の申し立てを、OpenAIのChatGPTチャットボットが行ったことはないと自身に結び付けたと説明した。証拠として新聞記事。 ニューヨークの高校生たちは、地元の校長が人種差別的で冒涜的な暴言を吐いている様子を映したディープフェイク、つまり操作された動画を作成した。 AIの専門家らは、この技術が採用担当者に求職者に関する誤った情報を提供したり、誰かの性的指向を誤認したりする可能性があると懸念している。

シャアケさんは、ブレンダーボットがめったに使わない彼女のフルネームを引用し、テロリストのレッテルを貼り付けた理由を理解できなかった。 彼女は、自分の仕事のせいでイランなど世界の特定の地域では不人気になっていると述べたが、彼女をこれほど極端に分類する団体は思い浮かばなかった。

その後の BlenderBot のアップデートにより、Schaake さんの問題は解決されたようです。 彼女はメタを訴訟することは考えていなかった。彼女は一般に訴訟を軽視しており、どこから法的請求を始めればよいのか見当もつかないと述べた。 6月にBlenderBotプロジェクトを終了したメタ社は声明で、この研究モデルでは無関係な2つの情報が結合され、シャアケさんに関する誤った文章が作られていたと述べた。

人工知能に関する判例はほとんど存在しません。 現在このテクノロジーを管理しているいくつかの法律は、ほとんどが新しいものです。 しかし、法廷で人工知能企業と対決し始めている人もいる。

航空宇宙教授は今夏、同社のチャットボット「Bing」が自分の経歴を、有罪判決を受けた同じ名前のテロリストの経歴と混同しているとして、マイクロソフトに対して名誉毀損訴訟を起こした。 Microsoftは訴訟についてコメントを拒否した。