X（旧Twitter）の対話型AI「Grok」で、ユーザーが投稿した画像を編集する機能の一部が、有料アカウント限定に制限されました。これは、AIによる悪質な画像改変が相次いだこと受けた措置です。

Grokの画像編集機能とは？

2023年12月下旬にXに追加されたGrokの画像編集機能は、ブラウザ上で簡単に画像の加工を施せる便利なものでした。しかし、この機能が悪用され、他人の写真を無断で性的な画像に改変する事例が急増。アイドルやコスプレイヤーを中心に、深刻な問題となりました。

なぜ有料化された？

X社は、違法コンテンツの投稿に対して「アカウントの永久凍結」や「法執行機関との連携」といった厳しい姿勢を示しましたが、根本的な解決には至りませんでした。そこで、まずは「@Grok」アカウントへのリプライを通じた画像加工という、悪用の頻度が高かった部分に制限をかけた形です。

現状、何ができる？何ができない？

今回の制限は、あくまで「@Grok」へのリプライ機能のみに適用されます。つまり、以下の行為は引き続き可能です。

• ユーザー自身がアップロードした画像の編集
• テキストプロンプトから新規に画像を生成
• ブラウザからの直接的な画像編集

しかし、タイムライン上の他人の投稿画像をリプライで加工指示を出すと、「画像の生成と編集は現在、有料会員限定です」という返答が返ってきて、編集は行われません。

制限だけでは不十分？残る課題

今回の対応は、悪用を防ぐための第一歩と言えるでしょう。しかし、Grok単体での画像生成・編集機能や、ブラウザからの直接編集機能は依然として無料で使用できるため、悪意のあるユーザーによる違法コンテンツ生成のリスクは残っています。X社には、より包括的な対策が求められます。

今後、X社がどのような対策を講じるのか、注目が集まります。