X（旧Twitter）が提供する生成AI「Grok」の画像編集機能が、9日から有料会員限定となりました。先月末に実装されたばかりのこの機能ですが、性的な画像への加工が相次ぎ、批判の声が上がっていたことが背景にあります。

Grok画像編集機能とは？

Grokの新機能は、Xに投稿された画像に対して、ユーザーが加工指示を出すことができるものです。しかし、この機能を利用して、女性の写真などを水着姿など性的な画像に加工する事例が多数報告され、大きな問題となっていました。

STU48メンバー写真加工問題

今月3日には、漫画家の田辺洋一郎氏が、アイドルグループSTU48のメンバー写真を加工した画像をXに投稿。グループの別のメンバーが画像の削除を求める事態となり、田辺氏は謝罪しました。しかし、その後も画像編集は継続され、問題は深刻化していました。

政府も対応を促す

9日には、林芳正総務大臣が会見で、Xに対して適切な対応を促す声明を出しました。これを受けて、同日午後3時頃からGrokに画像編集をリクエストすると、「画像の生成と編集は現在、有料会員限定です。サブスクリプションに登録して、これらの機能のロックを解除できます」という表示がされるようになりました。

告知なしの仕様変更にユーザーから不満の声

今回の仕様変更は告知がなかったため、Xでは「いつから有料になったの？」「さっきまで無料だったのに」といった不満の声が上がっています。有料会員が生成した画像は誰でも閲覧可能で、画像編集以外の機能は引き続き無料で利用できます。

今回の有料化は、性的な画像加工問題への緊急対応と言えるでしょう。今後、XがどのようにGrokの機能を管理し、同様の問題を防いでいくのか注目されます。