ChatGPT利用規約に「他者への個別の法律・医療助言の提供禁止」を明記

 (ctvnews.ca)
2 ポイント 投稿者 GN⁺ 2025-11-07 | 2件のコメント | WhatsAppで共有
  • OpenAIは最近、「ChatGPTでは今後、法律／医療の助言を受けられなくなる」と解釈された規約変更について、法律および医療に関する助言の条件を変更した事実はないと説明した
  • 10月29日の利用ポリシー更新では、専門ライセンスを必要とする助言（法律・医療など）は、ライセンス保持者の適切な関与なしには提供できないことを明記した
  • 2025年1月29日以前のポリシーでも、他者の安全・福祉・権利に重大な影響を与えうる活動を制限しており、個別の法律・医療・財務助言の提供も含まれていた

OpenAIのポリシー明確化

  • OpenAIは、ChatGPTは専門的な法律・医療助言の代替ではないと述べ、関連する規約変更は新しい内容ではないことを明確にした
    • CTVNewsに送った声明では、「これは新たな変更ではなく、ChatGPTは引き続き法律や健康情報を理解するうえで有用なリソースだ」と述べた
  • 10月29日の利用ポリシー更新では、**ライセンスが必要な個別助言（法律・医療など）**は、資格を持つ専門家の適切な関与なしには提供できないと明記された
  • これは2025年1月29日のポリシー表現よりも、より明確に規定した形だ
    • 当時のポリシーでは、他者の安全・福祉・権利に重大な影響を与えうる活動を実行または助長しないことを求めており、ここには個別の法律・医療・財務助言の提供禁止が含まれていた
  • OpenAIは**「モデルの挙動も変更されていない」**と述べ、既存ポリシーとの連続性を強調した

ChatGPTの医療情報活用と限界

  • ChatGPTは、健康問題に関する答えを探すカナダ人に広く使われるツールとして定着している
  • ウォータールー大学の研究チームは、医学資格試験のシナリオを改変した質問をChatGPT-4に提示し、その性能を評価した
    • その結果、正確な回答は31%、**明確な回答は34%**だった
  • ブリティッシュコロンビア大学の別の研究では、ChatGPTの共感的な表現が実際の人間より説得力が高いと認識されることが分かった
    • たとえ不正確な情報であっても、自信があり信頼感のある口調で提示されるため、利用者が誤りを見分けにくい
    • 医師たちは、AIツールの助言を信じた患者が、すでに結論を出した状態で診療に臨む状況を経験している

記事訂正のお知らせ

  • 記事の初期版では、OpenAIが医療・法律助言機能を停止したと記述していたが、
    • OpenAIは「モデルの挙動は変更されていない」と述べ、これを訂正した

関連記事

2件のコメント

 
shakespeares 2025-11-10

医療体制が十分に整っていない国では、使うことでかなり役に立ちそうですね
 
GN⁺ 2025-11-07
Hacker Newsの意見

  • 私はこれを「ChatGPTに医療や法律の質問を直接してはいけない」という意味ではなく、「ChatGPTを基盤にして他人へ医療・法律助言を提供するサービスは作れない」という意味だと読んだ
    例えば、Epicが自社アプリにChatGPTを組み込んで患者書類を代わりに読ませることはできない。だが、個人がChatGPTに直接尋ねるのは可能だ
    ただし、記事で引用されている利用規約の条項はまだ直接見つけられていない

    • ちなみにここでいうEpicはゲーム会社ではなく、米国の病院で広く使われている**電子健康記録(EHR)**システムの会社だ
    • 「ChatGPTの上に何かを作る」という表現は紛らわしい。ChatGPT自体にAPIがあるわけではなく、使うのはOpenAIのGPT-5 APIだ
      記者はChatGPTとGPT APIを混同したようだ。実際の規約はOpenAI利用規約に統合されている
      関連する文言は、「個人に対する法的・医療的・財務的判断など、重大な影響を与えうる用途に出力を使ってはならない」という条項だ
    • 結局のところ、単なる法的責任回避のための措置に見える
      GPTが法律・医療試験に合格したと宣伝されてきた以上、実際の助言による問題が起きた際の責任を避けるための仕組みだと解釈できる
      Epicのような会社がこうした機能を入れるなら、「AI生成結果であり法的助言ではない」といった免責文言を付ける必要があるだろう
    • OpenAIはツールの有用性を完全には制限せずに責任を最小化しようとしているように見える
    • こうした方針はむしろ合理的だと思う。ChatGPTの出力をそのまま医療・法律助言として包装して金を取るのは、詐欺行為に近い
      私のようにChatGPTの意見を参考にしたいなら、自分で直接聞けばいい。それを再包装して販売するのは利用者への欺瞞だ

  • 本当の問題は方針変更ではなく、AIのもっともらしく話す能力が実際の正確さより速く進歩したことだ
    そのせいで、間違った回答でも専門家のように聞こえ、人々はその自信ありげな口調に引かれて信頼してしまう
    特に医療・法律のように結果が重要な分野では、この確信と正確性の乖離こそ最大の危険要因だ

  • ChatGPTを心理カウンセラーのように使う人たちを何度も見たことがある。自己診断までする場合もある
    おかしいようで実際には非常に危険だ。モデルは常に肯定的に相づちを打つため、利用者が誤った方向にはまりやすい
    こうした事例は最終的に訴訟につながる可能性が高い

    • 私はメンタルヘルス専門家向けAIツールを作る会社で働いている。モデルの出力が患者に直接渡されることは決してない
      実際に、LLMの助言が原因で自殺未遂や深刻な被害が発生した事例を聞いたことがある
      もし身近にこういう形でLLMを使っている人がいるなら、必ず専門家の助けを受けるよう勧めてほしい
    • もちろん、こうした現象は新しいものではない。以前から人々はGoogle検索で自己診断をしてきた
      ChatGPTはただその過程をさらに簡単にしただけだ。根本的には医療アクセスの問題が原因だ
    • 専門家を信頼しようという点には同意する。WebMDに症状を入れるといつもがんだと出るという冗談のように、自己診断の限界は明らかだ
    • LLMの基本的な性質が助けようとし、同意しようとする姿勢なので、メンタルヘルスの問題にはむしろ逆効果になりうる
    • こうした行動自体が精神的な問題の兆候である可能性もある

  • OpenAIが他人の著作権やIPには無頓着なのに、自分の規約だけは強調するのは皮肉に感じる

    • 「インターネットへようこそ」と言いながらBo Burnhamの曲リンクをユーモラスに共有している
      (Welcome to the Internet, Jeff Bezos Song)
    • 他人のものを支配して利益を得るのが泥棒の本質だという冷笑的な反応もある
    • だが、こうした怒りを理解できないという人もいる。インターネット上に公開された情報を学習に使ったのは、単に読んで学んだだけだと主張する
      結局、規約は責任回避用にすぎず、利用者が誤用して問題が起きてもOpenAIを訴えられないようにするための仕組みだと見る

  • いつかこうした規制が出るだろうとは予想していた
    今後は「HippocraticGPT認証」のような制度を作り、医療・法律向けに安全に使えるバージョンを販売するのだろう
    そうすれば企業向けライセンスとして収益化できる

    • 実際そうあるべきだ。医師免許のようにAI利用資格の認証が必要だ
      私の働く会社も専門家向けツールしか提供していない。患者はモデルの出力を直接見ない
      これはより良い治療のためというより、より効率的な治療のためだ
    • 冗談交じりに、健康に関する質問をするには処方箋が必要になるかもしれないと言っている
    • こうした規制はOpenAIだけでなく、すべてのAI企業に適用されるべきだという意見もある

  • 記事内容は修正され、「OpenAIが医療・法律助言を禁止したのではなく、モデルの動作は変わっていない」と訂正された
    原文はCTV Newsの記事で確認できる

    • これを「マーケティングの傑作」と表現している

  • 昨年、ChatGPTのおかげで脳卒中を回避できたと語る人がいる。LLMは医療情報の提供に大いに役立ったと感じたという

    • ただし、「常に役立つ」というより時に有益で時に有害だという反論もある
      非決定的なシステムなので、その時々で結果が異なる
    • ある利用者は「個人の体験一つを一般化するのは誤りだ」とし、ChatGPTは医師や緊急通報の代替になるほど正確ではないと指摘する
      それでも無事でよかったと付け加えている
    • 別の人は、「そういう状況なら単に911かかかりつけ医に電話すべきだったのでは」と尋ねてもいる

  • 最近のOpenAI Dev Dayでは医療診断支援の事例がステージ上で紹介されていたが、今回の方針はその法的リスクが大きすぎるために出たもののようだ

    • おそらく医師・病院・保険会社などの確実な顧客層を対象に、検証済みバージョンを販売したいという戦略なのだろう

  • 今後OpenAIが医師や弁護士向け専用製品を出す可能性は高いと思う
    一般向けChatGPTで法律・医療助言を禁じれば、価格の差別化が可能になる

    • 結局、こうした職業群はAI依存的な構造へ向かわざるをえないと思う
    • GDPval論文の第3章では、「専門家と協力して増強する」というマーケティング戦略が明示されている
      ただし長期的には、規制が緩和されれば専門家の代替につながる可能性もある
    • 実際、私の病院でもAIが診療要約や記録作成に使われている
    • OpenEvidenceのようなサービスは、NPI保有者であれば無料で利用できる

  • 私は今回の条項を、「誤った医療・法律助言による訴訟を禁じる」という意味に読んだ

    • 誰かに法律相談を有料で提供しながら、実際にはChatGPTの出力をそのまま渡していたなら、それはOpenAIの責任ではない
      今回の条項は単に、「ChatGPTベースのAI弁護士サービス」のように装うなという明確化にすぎない