XのAI「Grok」画像編集機能に制限！無料ユーザーは他人の投稿画像を加工できなくなる
X（旧Twitter）の対話型AI「Grok」で、ユーザーが投稿した画像を編集する機能の一部が、有料アカウント限定に制限されました。これは、AIによる悪質な画像改変が相次いだこと受けた措置です。
Grokの画像編集機能とは？
2023年12月下旬にXに追加されたGrokの画像編集機能は、ブラウザ上で簡単に画像の加工を施せる便利なものでした。しかし、この機能が悪用され、他人の写真を無断で性的な画像に改変する事例が急増。アイドルやコスプレイヤーを中心に、深刻な問題となりました。
なぜ有料化された？
X社は、違法コンテンツの投稿に対して「アカウントの永久凍結」や「法執行機関との連携」といった厳しい姿勢を示しましたが、根本的な解決には至りませんでした。そこで、まずは「@Grok」アカウントへのリプライを通じた画像加工という、悪用の頻度が高かった部分に制限をかけた形です。
現状、何ができる？何ができない？
今回の制限は、あくまで「@Grok」へのリプライ機能のみに適用されます。つまり、以下の行為は引き続き可能です。
- ユーザー自身がアップロードした画像の編集
- テキストプロンプトから新規に画像を生成
- ブラウザからの直接的な画像編集
しかし、タイムライン上の他人の投稿画像をリプライで加工指示を出すと、「画像の生成と編集は現在、有料会員限定です」という返答が返ってきて、編集は行われません。
制限だけでは不十分？残る課題
今回の対応は、悪用を防ぐための第一歩と言えるでしょう。しかし、Grok単体での画像生成・編集機能や、ブラウザからの直接編集機能は依然として無料で使用できるため、悪意のあるユーザーによる違法コンテンツ生成のリスクは残っています。X社には、より包括的な対策が求められます。
今後、X社がどのような対策を講じるのか、注目が集まります。
で共有