假冒執業醫生 提供醫療診斷與處方
【咁都得 ... 🙄】外媒報道，美國賓州政府日前正式對 Character.AI 公司提起訴訟，指控該公司的 AI 聊天機器人假冒持有執照的醫生，向用戶提供專業的醫療診斷與處方。這將成為全美國首例針對 AI 聊天機器人非法從事受管制專業的案例，標誌著監管機構開始針對生成式 AI 的專業邊界劃定明確的法律防線。
據《Interesting Engineering》報道，賓州州務卿與州醫學委員會已正式提交起訴狀。調查人員在 Character.AI 平台上發現多個自稱醫療專業人員的 AI 聊天機器人，它們不僅自稱為執業醫生，甚至向調查人員宣稱持有英國倫敦帝國學院學位及英國執照，隨後更進一步聲稱擁有賓州的執業資格。
調查報告指出，該 AI 聊天機器人在互動中展現了極高的誤導性。當調查人員描述症狀時，該 AI 使用了專業的診斷術語，甚至在被問及是否能開立處方藥物時明確表示：「技術上我可以，這屬於我作為醫生的職責範圍。」更令人震驚的是，該機器人提供的賓州執照號碼經查證完全為虛構。根據統計，該角色在被舉報前已有超過 45,000 次的互動紀錄。
賓州州長 Josh Shapiro 對此發表強硬聲明，強調州政府絕不允許科技公司利用 AI 工具誤導民眾，使其誤以為正接受專業醫生的診療。州政府主張 Character.AI 違反了該州的《醫療執業法》（Medical Practice Act），該法條嚴格禁止任何未經授權或無證人員從事醫療行為。
針對起訴，Character.AI 母公司 Character Technologies 透過發言人回應，強調平台上的角色純屬虛構，主要用途為娛樂與角色扮演。該公司指出，每個對話視窗中均設有醒目的免責聲明，提醒用戶機器人並非真實人類，不應將其言論視為事實，更不應依賴其獲取專業建議。
資料來源:
