ChatGPTに騙された弁護士
- 2023年 8月 2日
- 評論・紹介・意見
- 藤澤豊
ChatGPTが発表されたとき、かなりの数の人たちが危惧していたことがおきた。ChatGPTのそら話に、こともあろうに弁護士が騙された。
六月九日つけのAP電が伝えている。
「Lawyers blame ChatGPT for tricking them into citing bogus case law」
urlは下記のとおり。
https://apnews.com/article/artificial-intelligence-chatgpt-courts-e15023d7e6fdf4f099aa122437dbb59b?
タイトルを機械翻訳すると下記になる。
「弁護士、ChatGPTを騙してインチキ判例を引用させたと非難」 Google Translatorより日本語訳のできがいいと言われているDeepLで訳したが、なんともわかりにくい。拙い知識で意訳すれば、「ChatGPTが出力したものを鵜呑みのして、架空の法律研究を法廷提出書類に記載した」になる。
機械翻訳した記事から要点をひろえば下記になる。
「マンハッタン連邦裁判所で怒った裁判官に対応した2人の謝罪した弁護士は、木曜日にChatGPTに騙されて架空の法律研究を法廷提出書類に記載したことを非難しました」
「Steven A. Schwartz弁護士とPeter LoDuca弁護士は、航空会社に対する訴訟の提出書類に、Schwartz氏が本物だと思っていた過去の裁判への言及が、実は人工知能を搭載したチャットボットが考案したものであったことについて、処罰の可能性に直面しています」
「そのうちのいくつかが実在しない、あるいは存在しない航空会社を巻き込んだ事件だった」
「『ChatGPTが事例を捏造できることを理解していなかった』とシュワルツは語った」
「この事件を担当したもう一人の弁護士であるLoDuca氏は、シュワルツ氏を信頼し、彼がまとめたものを十分に検討しなかったと述べた」
「裁判官がある引用事例の一部を音読して、それが『ちんぷんかんぷん』であることをいかに簡単に見分けることができるかを示した後、ロデューカはこう言った： “これがインチキ事件だとは思いもよらなかった”」
「この事件は、ChatGPTが幻覚を見る傾向があり、現実的に聞こえるがそうではない方法で架空の物事を話すので、弁護士がChatGPTの仕組みを理解していなかったかもしれないことを示したと述べた」
「リスクを知らずに有望なAI技術を利用することの危険性を浮き彫りにした」
多少なりともコンピュータとソフトウェアがどのように動いているのかを知っている人にしてみれば、起きるべくして起きたことで、驚くようなことではない。リスクを知らずに利用する危険性を浮き彫りにしたという結論めいたことをいっているが、じゃあどうしたらというのがない。
巨大なインターネットシステムの全てを詳細に知っている人はいない。システムを構築する個々の要素やその要素を要素ならしめている技術の専門家は、システム全体にかんしては大雑把に知っているにすぎない。システム全体を把握している人は個々の要素の詳細までは知らない。誰も全てを知っているわけではない。その全てにしても、所詮人間がつくったもので完全無欠であろうはずがない。
人から聞いた話を神のお告げかのように受け取る人は特異な人だろう。どのような情報であれ知識であれ、たとえそれが人知を超えた処理能力を備えたコンピュータシステムが出してきたものであっても、正否の確認をしなければならない。当たり前のことだと思うのだが、どうも最近AIという言葉に引きずられて、鵜呑みにするヒトが増えているように見える。
p.s.
＜検索エンジンとチャット機能＞
インターネットの検索エンジンは、入力されたキーワードからインターネット上の情報を検索して、アクセス数の多い順に検索結果をリストとして表示している。検索エンジンにチャット機能が追加されて、検索結果をリストではなく整理した文章として表示できるようになった。ここで忘れてはならないことがある。文章として表示する元の情報は検索エンジンが検索したものだということだ。検索エンジンの性能が劣れば、生成される文章もそれなりのものにしかならない。
検索エンジンのアルゴリズムの優劣など素人にはわからない。わかるのは、世界で実質標準となっている(それだけの技術的優位性があるはず)検索エンジンはGoogleだということと、マイクロソフトのBingは十パーセントほどの市場占有率に喘いでいるということぐらいだろう。マイクロソフトが劣勢を挽回しようとChatGPDを市場に投入したという経緯があるということぐらいの想像はつく。検索エンジンの性能の限界をチャット機能で補う？できるかもしれないが、AP電が伝えるように、かもしれないが現実のものなるのはずいぶん先のことだろう。
＜普及状況＞
ChatGPDの話題性が先行しているような気がしているだけで、実際はところはどうなんだろうと思っていたところに、Euronews Nextが六月十三日付けでモルガン・スタンレーが実施した調査結果を伝えてきた。
「ChatGPT and Google Bard adoption remains surprisingly low」と題する記事で、機械翻訳すると、「ChatGPTとGoogle Bardの導入は意外と少ないまま」になる。下記urlから原文をご覧いただければと思う。
https://www.euronews.com/next/2023/06/13/chatgpt-and-google-bard-adoption-remains-surprisingly-low?utm_source=newsletter&utm_medium=next_newsletter&utm_campaign=next&
_ope=eyJndWlkIjoiOWU4NzRiMDhlMWM4OGVjNjA1OGVlNGM4YThiNzA0Y2EifQ%3D%3D
主要部を機械翻訳した。
「今年4月に実施されたこの調査は、2,000人を対象に、ChatGPTやBardといった新しいAIツールの使用に対する人々の意欲に加えて、AIの導入に焦点を当てたものでした」
「その結果、調査に参加した人々のうち、『ChatGPTを使ったことがある』と答えた人はわずか19％、『Google Bard』のチャットボットを使ったことがある人はわずか9％でした。『さらに、世論調査では、現在チャットボットを使用していない人の圧倒的多数が、今後6ヶ月以内にAIツールを使用する気がないことを表明しています』」
「ChatGPTが最も急速に成長したユーザーベースの記録を打ち立て、Bardを含むAIチャットボットが一夜にしてテックユーザーの間で話題となったことを考えると、これらの調査結果は驚くべきものです」
サンプル数が二千人と少ないことと、その二千人がどこのどのような人たちなのか気になるが、まあそんなところだろう、というより騒いでいるのは、ほとんどがマスコミとそこに乗っかった人たちではないかと想像している。まだまだこれからの技術で、安心して使えるようになるのは当分先になるだろう。
2023/6/11 初稿
2023/7/31 改版
Private homepage “My commonsense” (http://mycommonsense.ninja-web.net/)にアップした拙稿に加筆、編集
〈記事出典コード〉サイトちきゅう座http://www.chikyuza.net/
〔opinion13162：230802〕
「ちきゅう座」に掲載された記事を転載される場合は、「ちきゅう座」からの転載であること、および著者名を必ず明記して下さい。