人工知能（AI）が行っていることを理解したり、予測するのが困難なことを説明する際によく使用される用語に「説明可能性（explainabili…… → 神経科学者が語る「AIがブラックボックスになる理由」
人工知能（AI）が行っていることを理解したり、予測するのが困難なことを説明する際によく使用される用語に「説明可能性（explainability）」や「解釈可能性（interpretability）」といったものが挙げられる。 AIがそれを開発し、プログラミングした専門家たちにとっても理解が困難なのはなぜだろうか。「AIは、特定の目的のために設計されたのではなく、最適化技術を使って設計されているからだ」と、神経科学者でコンピュータサイエンティストのブレイク・リチャーズ（Blake Richards）はいう。彼は「AIの父」と呼ばれ、ディープラーニングシステムを発明したジェフリー・ヒントンの助手を務めたことのあるAIの専門家だ。 ChatGPTやBardなどのLLM（大規模言語モデル）の基盤となる技術が、人間の神経回路を模倣した人工ニューラルネットワークで構成されているディープラーニングだ。AIモデルの精度は、文章や画像などのデータを使って人工ニューロンを学習させることで向上する。しかし、AIの精度と説明可能性はトレードオフの関係にある。 これらのシステムは我々にとって理解が困難であることから、AIモデルはブラックボックス化していると言われる。決定理論とAIの専門家のエリエゼル・ユドコウスキー（Eliezer Yudkowsky）も、AIを「巨大で不可解な浮動小数点数の行列」と表現している。 「大半のAIモデルは、因果関係ではなく関係性を導き出す。AIはデータのパターンを見出すが、なぜパターンがあるのかは理解していない。つまり、AIは原因を理解せずに推測することができるため、AIがどのように判断をしたかを人間が理解するのは困難だ」と、通信会社でCTO（最高技術責任者）を務めるアラ・ネゲダ（Ala Negeda）はいう。.
人工知能（AI）が行っていることを理解したり、予測するのが困難なことを説明する際によく使用される用語に「説明可能性（explainability）」や「解釈可能性（interpretability）」といったものが挙げられる。 AIがそれを開発し、プログラミングした専門家たちにとっても理解が困難なのはなぜだろうか。「AIは、特定の目的のために設計されたのではなく、最適化技術を使って設計されているからだ」と、神経科学者でコンピュータサイエンティストのブレイク・リチャーズ（Blake Richards）はいう。彼は「AIの父」と呼ばれ、ディープラーニングシステムを発明したジェフリー・ヒントンの助手を務めたことのあるAIの専門家だ。 ChatGPTやBardなどのLLM（大規模言語モデル）の基盤となる技術が、人間の神経回路を模倣した人工ニューラルネットワークで構成されているディープラーニングだ。AIモデルの精度は、文章や画像などのデータを使って人工ニューロンを学習させることで向上する。しかし、AIの精度と説明可能性はトレードオフの関係にある。 これらのシステムは我々にとって理解が困難であることから、AIモデルはブラックボックス化していると言われる。決定理論とAIの専門家のエリエゼル・ユドコウスキー（Eliezer Yudkowsky）も、AIを「巨大で不可解な浮動小数点数の行列」と表現している。 「大半のAIモデルは、因果関係ではなく関係性を導き出す。AIはデータのパターンを見出すが、なぜパターンがあるのかは理解していない。つまり、AIは原因を理解せずに推測することができるため、AIがどのように判断をしたかを人間が理解するのは困難だ」と、通信会社でCTO（最高技術責任者）を務めるアラ・ネゲダ（Ala Negeda）はいう。
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
アートとの邂逅 ─連載 Forbes JAPAN CIRCLE 30 | Forbes JAPAN 公式サイト（フォーブス ジャパン）優れたアートとの出合いは、ファッション同様、自分が何者であるかを考えさせてくれるヒントとなる。そして、そこに込められた作家の制作の意図が、作品を通じて我々に確実に伝わってくる。真のクリエイティブとの呼応こそ人生における楽しみだ。羽織っている...
Read more »
アートとの邂逅 ─連載 Forbes JAPAN CIRCLE 30 | Forbes JAPAN 公式サイト（フォーブス ジャパン）優れたアートとの出合いは、ファッション同様、自分が何者であるかを考えさせてくれるヒントとなる。そして、そこに込められた作家の制作の意図が、作品を通じて我々に確実に伝わってくる。真のクリエイティブとの呼応こそ人生における楽しみだ。羽織っている...
Read more »
認知症によって失われゆく「父」の世界丨映画「ファーザー」 | Forbes JAPAN 公式サイト（フォーブス ジャパン）歳を取って体のあちこちに不具合が出てくるように、脳の機能も若い頃に比べて衰えてくるのは否めない。特定の固有名詞が出てこないなどの症状で、それを感知する人も多いだろう。その中でも、皆が恐れているのが認知症だ。私事だが、筆者の父も晩年は脳梗塞が...
Read more »
カリフォルニア州が1000億ドル注ぐ「太陽光だけで走る高速鉄道」 | Forbes JAPAN 公式サイト（フォーブス ジャパン）イーロン・マスクは2013年、カリフォルニア州の高速鉄道プロジェクトを「1マイルあたりのコストが最も高く、世界で最も遅い高速鉄道」と揶揄し、未来的なハイパーループのコンセプトを発表した。しかし、それから10年が経った今、彼のプロジェクトはま...
Read more »
認知機能低下につながる「超加工食品」とは | Forbes JAPAN 公式サイト（フォーブス ジャパン）米国法曹協会のシニア弁護士部門が公開した記事で、米国アルツハイマー協会が開いた国際会議について報告されている。筆者もその一員であるシニア弁護士部門は50歳以上の弁護士で構成されており、健康はこのグループが関心を寄せるテーマだ。会議では、ブラ...
Read more »
神経科学者が語る「AIがブラックボックスになる理由」 | Forbes JAPAN 公式サイト（フォーブス ジャパン）人工知能（AI）が行っていることを理解したり、予測するのが困難なことを説明する際によく使用される用語に「説明可能性（explainability）」や「解釈可能性（interpretability）」といったものが挙げられる。AIがそれを開...
Read more »