FANBOXのAI生成作品取り扱い禁止の建前と本音を考える

7月末にpixivFANBOXでAI生成作品の取り扱いが禁止になったのですが、そこに至るまでの理論武装がよくわからなくて困惑してたんですよね。改めて考えてみました。

FANBOXは、ファンからの継続的な支援によって、クリエイターの創作活動をより良いものにしていきたい、そのような思いで始まったサービスです。

クリエイターの皆さまには作品の公開に限らず、作品づくりの過程や考えなどを発信することを通して、ご自身を応援してくれるファンの皆さまとコミュニティを作っていただきたいと思っています。

しかし現在のFANBOXでは、生成AI技術により短期間で大量に作成されたコンテンツを販売することのみを目的に利用されることが多く、今後もその傾向はより強まっていくと感じています。それは本来私たちが目指していたサービスの姿とは異なり、このまま見過ごすことはできないと判断しました。

そのため、FANBOXにおいてAI生成作品の取り扱いを当面のあいだ禁止させていただくことにいたします。

が全ての理由になってると思うのですが正直意味がわからないので頑張って解読していこうと。

困惑してたこと

方針の告知では「継続的な支援をするところなので、コンテンツを販売を目的とするのはダメ」と読めたのに、規約改訂の予告では「支援金を集めるばかりでコンテンツを出さないのはダメ」と読めて、え？どっちなの？ということ
方針の告知では「大量に画像をアップロードするので困ってます」という話なのかと思ってたらAI生成コンテンツの定義ではアイコンなども対象になっていて意図がわからないということ。これはAIユーザーが記事を消したのにクリエイターアカウントが停止されたと騒いでたので気付きました。アイコンが対象であるというのは規約改定の予告には書いてないし、直接リンクもされてないので気付かない人が多かったと思います

本音を想像する

おそらく「不正利用」を防ぐことが目的だと思います。ここでいう不正利用は2つの類型があって

フィッシング等によって取得したカード情報を使って現金化するケース。この被害は加盟店側(=pixiv)が負担することになる
送金ツールとして使われると行政から資金移動業とみなされて規制を受ける恐れがあるのではないか。将来的に制度が変わったら免許証等で本人確認しないと支援できないとかになるかもしれない

どちらも現金化の受け口としてFANBOXを使う想定です。不正利用かどうかを判断するのは難しいですが、それぞれのパターンごとに

お手軽に適当なコンテンツをアップロードしてガンガン支援してたら怪しい。コンテンツなしでの支援も怪しい。十分に時間をかけて作った十分な品質のコンテンツならたぶん大丈夫という近似的判断
十分に時間をかけて作った十分な品質のコンテンツを見るための支払いであって送金ではないですよという理論武装

で対抗するんじゃないかと思います。どちらも「十分に時間をかけて作った十分な品質のコンテンツ」を期待しているので、短時間で作った(=あんまりガチャ引いてない・修正してない)質の低い(=細部が破綻している)AIイラストは排除したいと。ただし絵の品質に基準を設けると審査が難しいし、人間の描いた絵にも波及しかねないからAIイラストは一律禁止。あとコンテンツが外部にあるとFANBOXを送金ツールとして使ってることになるのでそれもダメ。

一方で「十分に時間をかけて作った十分な品質のコンテンツを出せ」と言ってるとクリエイターにプレッシャーがかかるし、支援者もコンテンツの質や量が不足すると支援をやめてしまうだろうから「支援サイトです。支援に対してお例のイラストがもらえることがあります。品質は問わないし毎月更新しなくていいです」と言う必要もあって、なかなか強い言葉で説明できないのだと思います。

別の話としてアップロードされる画像が大量にあって(実写ポルノ画像が紛れてないかなどを)チェックするのが大変じゃなんじゃないでしょうか。ストレージや通信量のコスト増加もあるかもしれません。