プロジェクトオーガナイザの吉田聖書です。
先週の3月1日に、株式会社スケブがブログ記事を掲載しまして、同社が提供するサービスSkebにおいて「3月1日よりAI生成データを検出するAIを導入した」と発表しました。
SkebのAIに対するスタンスとAI生成データを検出するAIの導入につきまして（2023/3/1 Skeb Inc.）
Skebというのは、クリエイターに対して有償でお題をリクエストすると、クリエイターがリクエストに応じた作品を制作してくれるというサービスでして、それだけ聞くとクラウドソーシングのプラットフォームなのかなと思うのですが、スケブ社の公式サイトによると
クリエイターを金銭的に支援するとお礼の品（あなたの希望に沿ったイラストやボイス）が送られる、ふるさと納税のような仕組みを目指しています。
と記載されています。単純に仕事を受発注する仕組みとは違うんだということが明記されていて、経営者のこだわりを感じます。
今回掲載された記事によると、Skebでは毎月10万点以上のイラストがクリエイターから依頼者に納品されていて、その内、毎月数十枚程度はAIが生成した画像データなのだそうです。そもそも、Skebではサービス開始当初からAIが生成したデータを納品することを禁止しています。それにもかかわらず規約に違反した納品が行われていて、しかも、それをこれまでずっとスケブ社のスタッフが目視でチェックしていたということです。
いや、これはなかなか厳しいですよね。AIが生成したものかどうかなんて人が見て分かるものなのでしょうか。もしかして中には見逃してしまったものもあるかもしれませんね。そこで、スケブ社はアメリカのAI企業Hive社と契約して、AI生成データを検出するAIを導入したということです。まだ導入したばかりで成果は未知数ですけれども、導入すると決めたからには、それまでに過去のデータを使って充分な検証を行った結果だと考えられます。
同じ記事によれば、AI生成画像に限らず、転載画像を納品するといった不正行為を防止するために、以前からGoogle社のVision AIを使って転載画像を検出していたそうです。転載画像を納品するクリエイターなんているの？って思ったんですけれども、クレジットカードの現金化とかマネーロンダリングといった、本来と異なる目的でサービスを不正に利用されることを防止するためにそういう措置を取っているのだそうです。
※ この記事は、先日公開した以下の音声コンテンツを基に編集したものです。
この「AIが生成したものかどうかをAIが判別する」というのは面白い発想ですよね。面白いというか少し滑稽な印象すら受けます。ちょっと前にChatGPTというチャットボットが話題になりましたけれども、中身はともかくAIによって文章として自然な文字列が生成されるということで、AIが生成したページがインターネット上に量産されるのではないかということが危惧されました。
一方で、そういったAIはインターネット上で公開されているコンテンツを学習するので、インターネット上にAIが生成したコンテンツが蔓延すると、AIが学習のために取込むコンテンツも「実はAIが生成したものだった」ということが普通に起こりそうです。そういったほぼ無限の循環がAIのロジックにどのように作用するのか（つまりプラスに作用するのか、それともマイナスに作用するのか）大変興味深いです。