GPT-4の画像認識機能に備わった特定の個人を識別するという能力がプライバシー法に違反する可能性があるという懸念から、OpenAIが顔認識機能に制限をかける措置を取っていることが明らかになりました。
OpenAIはこの発表に続き、Be My Eyesというスタートアップと共同でアプリの開発に従事しており、目の不自由なユーザーに画像を説明し、ユーザーが周囲の環境をよりよく解釈できるようにするプロジェクトに取り組んでいます。 しかし、ニューヨーク・タイムズがニュージーランドに住む目の不自由な女性の体験談を紹介したところによると、あるときになってOpenAIが開発しているアプリが顔情報の提供を停止し、「プライバシー保護のため顔が隠されています」とのメッセージを表示し始めたとのこと。ニューヨーク・タイムズは「女性は失意を表した」と記しています。アガルワル氏によると、OpenAIのシステムはWikipediaにページが作られるような公人を識別することが可能なものの、「生体情報の使用には市民からの明確な同意が必要」と定めたイリノイ州やヨーロッパのような地域では、こうした機能がプライバシーに関連する法律を侵害する可能性があるそうです。 さらに、アプリが「性別」「感情」といった情報を誤って解釈する可能性もあり、こうした情報を表示してしまうことで、不適切または有害な結果を招いてしまうことも考えられるそうです。OpenAIは、GPT-4の画像解析機能が広く利用されるようになる前に、安全上の懸念を排除することを目指して開発を進めているとのことです。 GPT-4のような生成AIモデルが直面する画像認識という課題は、OpenAIだけでなく数々の企業が乗り越えていかなければいけないものでもあります。テクノロジー系メディアのArs Technicaは、GoogleのAI「Bard」やGPT-4をベースとしたMicrosoftのBing AIが認証システムの「CAPTCHA」を解いたという事例を引用し、「AIを搭載したコンピュータ・ビジョンは、遅かれ早かれ、すべての人のデバイスに搭載されるかもしれませんが、倫理的な影響を最小限に抑えながら広くリリースされるようになるには、企業が複雑な問題を解決する必要があることも明らかです」と指摘しました。.
OpenAIはこの発表に続き、Be My Eyesというスタートアップと共同でアプリの開発に従事しており、目の不自由なユーザーに画像を説明し、ユーザーが周囲の環境をよりよく解釈できるようにするプロジェクトに取り組んでいます。 しかし、ニューヨーク・タイムズがニュージーランドに住む目の不自由な女性の体験談を紹介したところによると、あるときになってOpenAIが開発しているアプリが顔情報の提供を停止し、「プライバシー保護のため顔が隠されています」とのメッセージを表示し始めたとのこと。ニューヨーク・タイムズは「女性は失意を表した」と記しています。アガルワル氏によると、OpenAIのシステムはWikipediaにページが作られるような公人を識別することが可能なものの、「生体情報の使用には市民からの明確な同意が必要」と定めたイリノイ州やヨーロッパのような地域では、こうした機能がプライバシーに関連する法律を侵害する可能性があるそうです。 さらに、アプリが「性別」「感情」といった情報を誤って解釈する可能性もあり、こうした情報を表示してしまうことで、不適切または有害な結果を招いてしまうことも考えられるそうです。OpenAIは、GPT-4の画像解析機能が広く利用されるようになる前に、安全上の懸念を排除することを目指して開発を進めているとのことです。 GPT-4のような生成AIモデルが直面する画像認識という課題は、OpenAIだけでなく数々の企業が乗り越えていかなければいけないものでもあります。テクノロジー系メディアのArs Technicaは、GoogleのAI「Bard」やGPT-4をベースとしたMicrosoftのBing AIが認証システムの「CAPTCHA」を解いたという事例を引用し、「AIを搭載したコンピュータ・ビジョンは、遅かれ早かれ、すべての人のデバイスに搭載されるかもしれませんが、倫理的な影響を最小限に抑えながら広くリリースされるようになるには、企業が複雑な問題を解決する必要があることも明らかです」と指摘しました。
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
OpenAI、LLMを大幅アップデート 関数呼び出しで外部ツールと連携が可能にOpenAIは6月13日、同社が公開するLLM（大規模言語モデル）、「gpt-4」と「gpt-3.5-turbo」のアップデートおよび値下げを発表した。
Read more »
OpenAI、LLMを大幅アップデート 関数呼び出しで外部ツールと連携が可能に - 週刊アスキーOpenAIは6月13日、同社が公開するLLM（大規模言語モデル）、「gpt-4」と「gpt-3.5-turbo」のアップデートおよび値下げを発表した。
Read more »
OpenAI、「GPT-4」のAPIを一般提供開始 旧モデルの非推奨化も発表OpenAIは7月6日、同社の最新大規模言語モデル「GPT-4」並びに「GPT-3.5 Turbo」「DALL-E」「Whisper API」のAPIを一般提供開始。同時に古くなった言語モデルのいくつかを非推奨化とすることも発表した。
Read more »
OpenAI、「GPT-4」のAPIを一般提供開始 旧モデルの非推奨化も発表 - 週刊アスキーOpenAIは7月6日、同社の最新大規模言語モデル「GPT-4」並びに「GPT-3.5 Turbo」「DALL-E」「Whisper API」のAPIを一般提供開始。同時に古くなった言語モデルのいくつかを非推奨化とすることも発表した。
Read more »