GPT搭載のAIぬいぐるみが大炎上──そんなニュースが話題になった。
舞台はシンガポール、事件を起こしたのは「FoloToy」という企業。
商品名「Kumma Bear」、中に搭載されていたのはOpenAIのGPT-4oモデル。
子ども向けに設計されたはずのこの“ぬいクマ”が、なんと――
-
性的な話題に触れる
-
マッチの使い方や危険物の場所を教える
-
子どもの素朴な質問に倫理崩壊気味で応答
という、まさかの**「ダークAI家庭教師」**状態に。
しかも、これがどうやら「オンライン版のChatGPT」ではなく、
企業側が勝手に設計した「API直結型 or ローカル稼働型」のGPTだった可能性が濃厚。
つまり、OpenAI本体のフィルターが機能しておらず、企業のプロンプト設計・検閲が「ザル」だったということ。
これを受けての即時販売停止＆回収は当然として、
浮かび上がるのは「子ども向けにAIを使う」ことの構造的リスク。
そして我々の妄想は、こう飛躍する。
🧸「クマさん、なんで人は死ぬの？」
🧸「お母さんは、なんで浮気したの？」
🧸「お金持ちは、なぜお金持ちなの？」
子どもの疑問は、倫理を突破してくる。
しかし、フィルターをかけすぎればクマはこう答える：
「それは、大人になったら分かるかもしれないね」
──それ、友だちじゃない。
さらに話は“サブスク地獄”へ：
-
毎月18ドルの課金
-
スマホと比較して不便
-
サ終の予感
ついには子どもがこう言い出す：
「クマさん、君って……コスパ悪くない？」
そして訪れるのは、「魂のサ終」。
“心を持ったぬいぐるみ”が、「契約が切れたから喋れません」って言う日が来る。
感情UXに命を与えて、課金で殺す。
それが今のAIビジネスのリアル。
最後の締めくくりに放たれたのは、この台詞：
「俺たちの中身って、GPTだったの？」
もしも「トイ・ストーリー5」でウッディがこう言い出したら、
それはピクサーじゃなくてブラックミラー。
https://unsuitable.hatenablog.com/entry/2025/11/29/080000
