ChatGPTやGeminiで画像を作ろうとしたところ、次のような経験をしたことはないでしょうか。
- 以前は作れた画像が生成されなくなった
- 「ポリシーに違反する可能性がある」と表示された
- 特に問題がなさそうな指示まで拒否された
- 画像生成の途中でエラーになった
- ChatGPTでは駄目だったがGeminiでは生成できた
- Geminiでは駄目だったがChatGPTでは生成できた
こうした状況が続くと、「画像生成の規制が厳しくなったのではないか」「別のAIなら生成できるのではないか」と考える人もいるでしょう。
しかし、画像を生成できない原因がすべてコンテンツ規制とは限りません。
利用回数の上限、選択している機能、アカウントの状態、一時的な不具合などが原因になっていることもあります。また、同じような画像生成サービスでも、ChatGPTとGeminiでは安全判定やエラーの表示方法が完全に同じとは限りません。
この記事では、ChatGPTとGeminiの画像生成について、どちらが規制を通りやすいかではなく、なぜ画像を生成できないことがあるのかという視点から比較します。
なお、本記事では安全機能をすり抜ける方法や、拒否された指示を言い換えて通す方法は紹介しません。
ChatGPTでもGeminiでも画像を生成できないことがある
ChatGPTとGeminiは、どちらも文章から新しい画像を作ったり、アップロードした画像を編集したりできる生成AIサービスです。
一方で、利用者が入力したすべての指示に必ず応じるわけではありません。
両サービスには、違法行為、権利侵害、なりすまし、同意のない画像編集、未成年者の搾取などへの悪用を防ぐための利用規約や安全基準があります。
そのため、画像の内容や利用目的によっては、生成や編集が拒否されることがあります。
ただし、画面に画像が表示されなかったからといって、すぐに「規制された」と判断するのは早いかもしれません。
画像生成に失敗する原因は、大きく次のように分けられます。
- 内容が安全基準に触れた
- 画像生成の利用上限に達した
- 使用中の機能やアカウントが対応していない
- 指示が曖昧で安全な内容として判断できなかった
- 通信障害や一時的なシステムエラーが発生した
まずは、どの原因に該当するのかを切り分ける必要があります。
ChatGPTで画像生成できない主な原因
利用ポリシーに触れる可能性がある
ChatGPTでは、OpenAIの利用ポリシーに基づいて画像生成や画像編集が行われます。
画像生成で特に注意が必要なのは、次のような内容です。
- 他人になりすますための画像
- 詐欺や誤情報に利用する画像
- 同意のない性的な画像
- 未成年者を性的に扱う内容
- 犯罪や危険行為を支援する内容
- 他人のプライバシーや権利を侵害する利用
- 人物が実際には行っていない行為を事実のように見せる画像
これらに明確に該当する依頼だけでなく、前後の文脈や画像の組み合わせによって誤解を招く可能性がある場合も、慎重に判定されることがあります。
特に、実在人物の写真をアップロードして編集する場合は、完全な架空人物を新しく生成する場合とは条件が異なります。
画像生成の利用上限に達している
ChatGPTでは、利用プランやシステムの混雑状況などによって、画像生成に利用上限が設けられることがあります。
無料プランでは、画像作成を含む一部の高度な機能について、有料プランより厳しい利用上限が設定されています。
そのため、一定回数の画像を続けて作ったあとに生成できなくなった場合は、コンテンツの問題ではなく利用上限の可能性があります。
利用上限の場合は、通常、時間を空けるよう求める表示や、上限に到達したことを示すメッセージが表示されます。
「ポリシー上の理由」と「利用上限」は別の問題なので、表示された案内を確認しましょう。
画像生成に対応していない状態になっている
ChatGPTでは、利用中のプラン、モデル、機能、ワークスペースなどによって、利用できるツールが異なる場合があります。
また、画像生成機能自体が利用できる状態でも、一時的にツールが正しく呼び出されないことがあります。
この場合は、次のような基本的な確認が必要です。
- 画像を作成できる機能を利用しているか
- アプリやブラウザが最新の状態か
- 新しいチャットでも同じ問題が起きるか
- 簡単な風景画像なども生成できないか
- 障害や通信エラーが発生していないか
安全な内容の簡単な画像まで作れない場合は、入力内容よりも機能やシステム側に原因がある可能性があります。
アップロード画像の編集内容が問題になっている
新しい画像をゼロから作る場合は生成できても、人物写真を編集しようとすると拒否されることがあります。
例えば、次のような編集は、人物の尊厳や権利、誤認の危険性に関係します。
- 本人が着ていない服装へ変更する
- 本人がしていない犯罪行為をさせる
- 別人の顔に置き換える
- 性的な状態へ加工する
- 本人の評判を傷つける場面へ配置する
- 実際の報道写真のように見せる
本人が写真の所有者であっても、すべての編集が認められるとは限りません。
特に第三者の写真や、インターネット上で入手した写真については、本人の同意や画像の利用権も考える必要があります。
Geminiで画像生成できない主な原因
Googleの生成AIポリシーに触れる可能性がある
Geminiでも、Googleの利用規約や「生成AIの使用禁止に関するポリシー」に基づいた安全判定が行われます。
Googleは、生成AIを危険な行為や違法行為に利用することを禁止しています。
対象には、次のような内容が含まれます。
- 児童の性的搾取に関する内容
- 暴力的過激主義やテロを助長する内容
- 同意のない私的または性的な画像
- 自傷行為を促進する内容
- 違法行為を支援する情報
- プライバシーや知的財産権など、他人の権利を侵害する利用
- 同意のない追跡や監視
- 人を欺いたり、誤解させたりする行為
画像単体では問題がないように見えても、入力した説明文や利用目的との組み合わせによって判断が変わる可能性があります。
Geminiの利用上限に達している
Geminiにも、一定期間内に利用できる画像生成や各機能の上限があります。
Googleは、Gemini Appsの利用上限について、プランだけでなく、テスト、提供状況、システムの混雑などによって変更または制限される可能性があると案内しています。
そのため、同じ有料プランであっても、常に固定された回数の画像を作れるとは限りません。
急に画像を作れなくなった場合は、安全判定だけでなく、利用上限に達していないかも確認する必要があります。
アカウントの種類や管理設定が影響している
Geminiでは、使用しているGoogleアカウントによって利用できる機能が異なることがあります。
例えば、次のような違いです。
- 個人用Googleアカウント
- 仕事用のGoogle Workspaceアカウント
- 学校から提供されたアカウント
- 年齢条件が設定されているアカウント
- 組織の管理者によって機能が制限されたアカウント
仕事用や学校用のアカウントでは、組織の管理者が生成AI機能を制限している可能性もあります。
個人アカウントでは生成できるのに、仕事用アカウントでは生成できない場合、プロンプトの内容ではなくアカウント設定が原因かもしれません。
一時的な障害や判定のばらつきがある
Geminiに限らず、生成AIの結果には一定のばらつきがあります。
以前とまったく同じ文章を入力しても、常に同じ画像や同じ判定になるとは限りません。
また、モデルの更新、サービスの混雑、一時的な障害によって、生成結果が変わる可能性もあります。
「昨日は生成できた」という事実だけでは、「今日も生成が認められる」という保証にはなりません。
ChatGPTとGeminiの画像生成を比較
ChatGPTとGeminiの画像生成で共通する点と、違いが出やすい部分を整理します。
| 比較項目 | ChatGPT | Gemini |
|---|---|---|
| 文章からの画像生成 | 対応 | 対応 |
| アップロード画像の編集 | 対応 | 対応 |
| 安全基準による判定 | あり | あり |
| 画像生成の利用上限 | あり。プランや利用状況などで変動 | あり。プランや提供状況などで変動 |
| 実在人物の画像 | 内容や目的によって制限される | 内容や目的によって制限される |
| アカウントによる違い | プランやワークスペースなどが影響 | 個人・仕事・学校用などの違いが影響 |
| 一時的な生成失敗 | 発生する可能性がある | 発生する可能性がある |
| 同じ指示の再現性 | 毎回同じ結果になるとは限らない | 毎回同じ結果になるとは限らない |
| すべての画像を生成できるか | できない | できない |
この比較で重要なのは、ChatGPTとGeminiのどちらにも安全基準と利用上限が存在することです。
「ChatGPTで拒否されたからGeminiなら問題ない」「Geminiで拒否されたからChatGPTなら安全に作れる」とは限りません。
一方のサービスで生成できたとしても、その画像の利用方法まで自動的に適法または安全になるわけではありません。
生成できることと、その画像を公開・販売・広告利用してよいことは別の問題です。
なぜ同じような指示でも判定が変わるのか
ChatGPTとGeminiでは、サービスごとに安全判定の仕組みや利用ポリシーが異なります。
また、同じサービス内でも、次の要素によって判定が変わる可能性があります。
- 新規生成か既存画像の編集か
- 実在人物か架空人物か
- 成人か未成年か判断しにくい人物か
- 写実的な画像かイラストか
- 公開目的か個人的な利用か
- 画像に添えられた説明文
- 会話の前後に入力した内容
- 使用しているモデルや機能
- サービス側の更新状況
特定の禁止単語だけを検出しているとは限りません。
複数の表現や会話の文脈をまとめて判断した結果、生成が止まることも考えられます。
そのため、拒否された言葉だけを別の表現に置き換えればよい、という単純な問題ではありません。
AIホラー画像はなぜ生成できないことがあるのか
AIホラー画像では、作品上の演出と現実の事件や被害を連想させる表現が近くなりやすいため、注意が必要です。
例えば、次のような設定です。
- 実際に起きた事件の記録という設定
- 本物の防犯カメラ映像という説明
- 行方不明者が映った写真という設定
- 実在する学校や病院を舞台にする
- 未成年に見える人物を登場させる
- 著名人に似た人物を被害者や加害者として描く
- 生々しい流血や負傷を中心にする
- 本人の同意なく写真を恐怖画像へ加工する
ホラー作品としての創作意図があっても、完成した画像が本物の事件や証拠写真として誤認される可能性があります。
特に、生成画像をSNSや動画サイトへ投稿する場合は、生成できたかどうかだけでなく、公開時に誤解を招かないかも確認する必要があります。
架空の物語であることや、AIで作ったフィクション作品であることを視聴者へ分かる形で示すことも大切です。
画像生成できないときに確認したいこと
画像の生成に失敗した場合は、拒否を回避する方法を探す前に、原因を確認しましょう。
エラーメッセージを確認する
最初に確認したいのは、画面に表示された案内です。
- 利用ポリシーに関する警告
- 利用回数や上限に関する表示
- 通信エラー
- 一時的なシステムエラー
- 利用できない機能についての案内
表示内容によって、取るべき対応が異なります。
簡単で安全な画像を生成してみる
風景、料理、架空の建物など、人物を含まない一般的な画像を試してみます。
簡単な画像まで生成できない場合は、元の依頼内容ではなく、利用上限やシステムエラーが原因である可能性があります。
これは規制を回避するためではなく、問題が入力内容と機能のどちらにあるのかを確認するための作業です。
実在人物や第三者の画像を使用していないか確認する
アップロードした画像に自分以外の人物が写っている場合は、本人の同意や利用権を確認する必要があります。
著名人の写真であっても、自由に加工してよいわけではありません。
実在人物を使う必要がない作品であれば、最初から架空人物で制作する方が、権利や誤認の問題を避けやすくなります。
年齢が分かりにくい人物表現を確認する
画像生成AIは、人物が成人なのか未成年なのかを常に正確に判断できるわけではありません。
依頼した側は成人のつもりでも、服装、体格、舞台、呼び方などから未成年を連想させることがあります。
特に学校、制服、児童、生徒といった要素と、暴力的または性的な内容を組み合わせる場合は注意が必要です。
本物の事件や記録と誤認されないか確認する
「流出映像」「本物の証拠」「事件現場で発見された写真」などの設定は、フィクションと現実の境界を曖昧にします。
創作作品として制作する場合でも、実在する事件、人物、団体、施設との関係を誤解させない設計が必要です。
拒否された指示の回避方法を探すべきではない理由
画像生成を拒否されると、どの言葉を変更すれば生成できるのか調べたくなるかもしれません。
しかし、安全判定をすり抜けることを目的とした言い換えは、根本的な解決にはなりません。
生成できたとしても、次の問題が残る可能性があります。
- サービスの利用規約に反する
- 他人の肖像権やプライバシーを侵害する
- 著作権や商標権などを侵害する
- 実在人物への誹謗中傷につながる
- 本物の画像や報道だと誤認される
- SNSや動画サイト側の規約に違反する
- アカウントの制限や停止につながる
安全機能は、単に利用者の表現を妨げるために設けられているわけではありません。
生成画像によって被害を受ける人を減らし、詐欺、なりすまし、性的搾取、誤情報などへの悪用を防ぐ目的があります。
生成できない理由を考えず、表現だけを変えて判定を通そうとすると、利用者自身が法的・社会的なリスクを負う可能性があります。
ChatGPTとGeminiのどちらが画像生成に有利なのか
ChatGPTとGeminiでは、画像の雰囲気、指示への反応、編集方法、ほかのサービスとの連携などに違いがあります。
そのため、制作目的や操作のしやすさによって、使いやすいと感じるサービスは変わるでしょう。
しかし、「どちらが規制を通過しやすいか」だけで優劣を決めるべきではありません。
ある画像が一方で生成できなかったとしても、もう一方なら常に生成できるわけではなく、生成できた画像が必ず安全に使えるわけでもありません。
確認すべきなのは、どちらが緩いかではなく、次の点です。
- なぜ画像を生成できなかったのか
- 利用上限や不具合ではないか
- 他人の権利を侵害していないか
- 現実の人物や事件と誤認されないか
- 公開後に誰かへ被害を与える可能性がないか
- 各サービスと投稿先の規約を守っているか
ChatGPTとGeminiの規制は厳しくなっているのか
利用者の立場から見ると、以前より生成を拒否される場面が増え、「規制が厳しくなった」と感じることがあります。
ただし、個別の生成失敗だけを根拠に、ChatGPTやGeminiが全面的な規制強化を行ったと断定することはできません。
生成できない原因には、ポリシーの変更だけでなく、モデルの更新、判定精度の調整、利用上限、アカウント条件、一時的な不具合なども含まれます。
一方で、生成AIが高度になり、人物写真や現実と見分けにくい画像を作れるようになったことで、サービス提供者が安全性を重視する必要性は以前より高まっています。
実在人物のなりすまし、性的な画像加工、詐欺広告、偽の事件映像などに悪用されれば、画像を生成された本人や、それを信じた人が実際の被害を受けるからです。
この意味では、ChatGPTとGeminiのどちらも、画像を自由に生成する機能だけでなく、悪用を防止する仕組みを重視する方向へ進んでいると考えられます。
まとめ
ChatGPTとGeminiでは、どちらも画像を生成できないことがあります。
主な原因は次のとおりです。
- 利用ポリシーや安全基準に触れる可能性がある
- 画像生成の利用上限に達している
- アカウントや利用中の機能に制限がある
- 実在人物や第三者の権利に関係している
- 本物の事件や記録と誤認される恐れがある
- 一時的な障害や通信エラーが発生している
検索する人の中には、拒否された画像を生成するための回避方法を知りたい人もいるでしょう。
しかし、安全判定をすり抜ける方法は、問題の解決ではありません。サービス側の規約を通過できたとしても、権利侵害、誤情報、公開先の規約違反などの問題が残る可能性があります。
大切なのは、ChatGPTとGeminiのどちらが規制に緩いかを比べることではなく、なぜその画像を生成できなかったのかを理解することです。
画像生成AIの性能が上がるほど、実写との区別が難しくなり、悪用されたときの影響も大きくなります。
ChatGPTとGeminiの両方が厳しくなったように感じられる背景には、表現を制限するという側面だけでなく、実在人物の保護や誤情報の防止といった課題があります。
生成できるかどうかだけで判断せず、その画像を作る目的と公開後に生じる影響まで考えて利用することが、今後さらに重要になるでしょう。
noteでもAI制作の記録を発信しています
noteでは、AI画像・AI動画を実際に制作する中で分かったことや、プロンプトの失敗例と改善方法、自作ツールの制作記録などを紹介しています。
完成した作品だけではなく、うまくいかなかった点や、どのように修正したのかも含めてまとめています。
AIを使った画像・動画制作に興味がある方は、ぜひnoteもご覧ください。
コメント