{
"$type": "com.whtwnd.blog.entry",
"theme": "github-light",
"title": "Blueskyに絵をポストしたらポルノ扱いされたんですけど！ラベルの話",
"content": "\n## はじめに\n\nBlueskyの成人向け（ポルノ等）扱いは内外でいろんな人が話題にしているのですが説明するのが大変なのでこれをとりあえず書きました。ここでは絵をポストするユーザー向けへの説明をします。\n\n---\n\n### 児童ポルノに関する話\n\n**児童ポルノとみなされるもの(日本の基準ではありません)は厳禁です**\n\nBlueskyだからではなくBlueskyの所在地の法律がそれを許しません。AppleもGoogleもそれを許しません。\n\nBlueskyでは児童ポルノの検出に [Thorn](https://www.thorn.org/about/?ref=platformer.news) の [Safer](https://safer.io/how-it-works/?ref=platformer.news#compare) というものを利用しているようです。\n\n> たとえば、Bluesky は CSAM (Child Sexual Abuse Material（児童性的虐待のコンテンツ）)を見つけて削除するために、児童安全非営利団体 Thorn のツールである Safer を使用しています。\n> 10 年以上にわたり、テクノロジー業界は既知の CSAM のハッシュを収集して共有し、業界や同業者がサイトから CSAM を簡単に削除できるようにしてきました。\n> Safer はそれらのハッシュを Bluesky に提供し、独自の機械学習ツールで強化します。\n> このツールは、これまで検出されなかった CSAM も検出できます。CSAM が発見されると、Safer は関連する投稿をモデレーターにルーティングし、Bluesky が事業を展開している国の児童安全当局と共有できるレポートを作成します。(Google 翻訳)\n\n情報元 : [Inside Bluesky’s big growth surge PLATFORMER](https://www.platformer.news/bluesky-growth-content-moderation-trust-safety-interview/)\n\nXにおいても児童ポルノとみなされるコンテンツは元々規約違反ですが通報の量によって判断しているのか処理が間に合っていないのか雑な(AI自動判定なのかわかりませんが）凍結で済ましているだけであるといえます。\n\nBlueskyでもモデレーション対応はかなり遅延しているようなので何度ポストして凍結されなくても数カ月後に突然凍結ということになる場合もありえます。\n\n---\n\n### モデレーターによる操作\n\n誰かがあなたのポストを「通報」したときにBlueskyのモデレーターに連絡が届き担当モデレーターがそのポストへの対処を判断します。このモデレーション操作を行うサーバーを「Ozone」といいます。\n\n\n出典： <https://github.com/bluesky-social/ozone>\n\n画面上のとおり対象ユーザーのこれまでの通報履歴や対処履歴が閲覧できるようになっているためここでモデレーターは各自判断をします。モデレーターはそのポストを削除するかもしれませんしラベルを変更するかもしれません。\n\n幾度も通報され何度も削除されるようなものをポストし続けているとアカウントがSuspend（凍結）になる可能性が高いです。\n\n初期の大流入の際の水着騒動では結果的にはアカウント凍結解除によってそのアカウントは停止解除されました。(これは運営によって明言はされていませんが一度目の凍結は72時間で解除され解除後に再び凍結された場合は永久凍結になるようです。絶対に確定ではないことに注意してください。復旧後に該当ポストがまだ存在している場合自己判断で削除が必要です）\n\n> 凍結やらBANやらSuspendやらTakedown複数の用語を見かけますがTakedownはサーバー内部操作の名称でありSuspendはBluesky公式クライアント上の表示です。アカウントの削除と Takdown(Suspend) は違います。Bluesky におけるアカウントの削除と Takedown(Suspend) については説明は省略します。ユーザーからするとわからないので)\n\n---\n\n### 違反コンテンツ削除の通達\n\n児童ポルノのような違反コンテンツが運営により削除になった時、登録時のメールアドレスにそのポストを削除したと記載されたメールがBluesky運営より送信されます。\n\n通達を無視して同じようなコンテンツを含むポストを続けているとアカウントはTakedown（凍結）されます。\n\n**Bluesky からのメールが迷惑メール扱いになっている場合も多いので必ず確認しましょう。**\n\nまたTakedown状態の場合は異議申し立てによりUntakedown（凍結解除）してもらえる可能性もあります。\n\n---\n\n## 画像などをすべて表示する設定\n\nios版BlueskyはAppleの規定により性的であるとラベルされた画像を表示する設定がアプリからはできないようになっています。（Android版はそのまま設定からできるそうです）\n\nそのようなラベルがついたポストを表示したい場合ブラウザ版のBluesky <https://bsky.app> から設定を変更します。\n\n設定 → モデレーション → コンテンツのフィルター\n\n\n\n\n\nここでコンテンツの表示ルールを変更できます。\nさらに追加のフィルターは以下のBluesky Moderation Serviceから変更します。\n\n\n\n画像以外のものがやたらあるもののほとんど見かけることはないかもしれませんがRude（失礼）は時折見かけるかもしれません。\n\n\n\n---\n\n## ポストの自動判定\n\n### ポストに画像を添付する際の手順\n\nポストする画像を選んだ後にユーザーはラベルからコンテンツの警告を以下の中から選ぶことができます。\n\n\n↓\n\n\n成人向けコンテンツ（この中から1つ）\n\n- 「きわどい(Sexually Suggestive)」性的示唆性的挑発裸体は含まれない\n- 「ヌード(Non-sexual Nudity)」美術的な裸体\n- 「成人向け（ポルノ等）(Adult Content)」ポルノ画像性行為\n\nその他（上記の3つに加えて追加可能）\n\n- 「生々しいメディア（Graphic Media）」人によっては閲覧に注意する画像（グロ画像、事故や戦争・災害などの画像）\n\n「生々しいメディア」は性的であるものとは関係ありません。これを成人向けラベルとして利用するのは適切ではありません。成人向けコンテンツラベルと併用した場合に限ってはR18G相当とはいえます。\n\nこれで他の人に配慮したポストにすることができます。\n\n成人向けコンテンツラベルを選ばずに全年齢対象投稿とすることもできます。\n\nポストをしたあとにこのようなラベルが勝手についていることがあります。\n\n\n\nこれを押してみると\n\n\n\nこのように勝手にラベルがついていることがあります。\n\nBlueskyは厳しい！終わってる！と思う前にラベルについて知る必要があります。\n\n---\n\n### ラベルはラベラーが貼っている\n\nすべてのポストに添付された画像や動画は即座にHive AI（SkebがAI判定にも使っているサービス）に通され、そこで成人向け（ポルノ等）やヌードの判定が行われます。\n\n#### Hive AI の画像内容検出サービス(Image and Video Detection)\n\n<https://hivemoderation.com/ai-generated-content-detection>\n\nその判断を元にBluesky Moderation Serviceというラベラー（そういうサーバー）がポストに対して選ばれたラベルを貼り付けます。\n\n自動的にラベルが貼られる基準はとにかくHive AIの自動判定になっています。Blueskyの思想でラベルが決まっているわけではありません。\n（Hive AIの判定の厳しさ設定はBluesky運営が設定しています）\n\n---\n\n### なぜ自動判定しているのか\n\n当初Hive AIはラベルの貼り忘れの事故などを防ぐために導入されました。ラベルを貼りましょうと言っても貼らない人だらけなのは言うまでもないことです。そして判断基準は人それぞれです。人が増えるほどモデレーションは大変なので結果的にこのHive AIが自動モデレーションすることになりました。\n\n現在では検閲システムのように思われていますがこの自動ラベリングは適切なラベリングのために存在しています。\nHive AIの判断は適切とは言えないかもしれませんがそこはそれを見たくないかもしれない人のために最低限ラベルを貼っていると考えてください。\n\n自分で「成人向け（ポルノ等）」ラベルを選んで投稿してもHive AIの判断によってもっと軽いラベル「きわどい」「ヌード」が貼られることもあります。\n\n---\n\n### Sexually Suggestive (Cartoon)というあまり見ないラベルがついている場合\n\n\n\nこのラベルもBluesky Moderation Serviceによって貼られるラベルですがこのラベルは自分では選べません。\nこれもHiveAIの判断で「えっちな雰囲気がする2次元の絵」という扱いになったときに選ばれるラベルですが正直選ばれる基準がわからなさすぎるので特に気にしないでください。\n\nSexually Suggestive（Cartoon）の表示設定は設定 → モデレーション → 高度な設定Bluesky Moderation Service → ラベルSexually Suggestive (Cartoon) にあります。\n\n\n\n\n\n---\n\n### Hive AI の勝手なラベルが気に食わないので変えたい\n\n「異議を申し立てる」で運営の判断により別のラベルに変えてくれる場合があります。以下は自分で「成人向け（ポルノ等）」としてポストしたものの「Sexually Suggestive(Cartoon)」と判断された画像です。\n\n\n\n---\n\n## プロフィールが成人向け(ポルノ等)扱いになりアカウントのアバター画像やヘッダー画像が見えなくなった\n\nプロフィールに使うアバターやヘッダー画像も当然Hive AIに通されます。\n\nそれによってプロフィール自体にラベルが貼られ、モデレーション設定によりアバター画像やヘッダー画像がぼやかされたりします。（プロフィールが非表示になるのではなく画像がぼやかされる）\n\nプロフィール画面は誰でもアクセスできる場所なので基本的には未成年が見ても問題ないであろう画像を使うようにしましょう。（アバター画像がぼやけていると本当に誰だか認識しづらい）\n\n---\n\n## 最後に\n\nBlueskyはユーザー自身が見るものをコントロールするのが基本なのでポストのラベルによる分類はどうしても必要です。\n\nこれはあなたを通報するそれを見たくなかったユーザーを減らすことにもつながります。\n\n---\n\n## 更新履歴\n\n| 日付 | 内容 |\n| ---------- | --------------------------------------------------------------------------------------------------------------------------------------- |\n| 2025-12-27 | 曖昧な情報の削除と文章の修正 |\n| 2024-12-20 | アップデートに伴い生々しいメディアの説明(日本語訳)と画像を変更 |\n| 2024-11-26 | Thorn の Safer による児童ポルノ検知の説明を追記 |\n| 2024-11-20 | アップデートに伴い画像を差し替え Hive AI とのラベルの重複の項目を削除(二重に貼られたことを確認) ラベル名修正 Adult → 成人向け(ポルノ等) |\n| 2024-11-10 | 生々しいメディアの説明変更 |\n| 2024-11-09 | アップデートに伴い選択できるラベル名を修正 ポルノ->Adult 「生々しいメディア」追加 |\n| 2024-11-05 | 投稿 |\n",
"createdAt": "2026-02-08T09:44:10.813Z",
"visibility": "public"
}