Gemini AI: Ética da Tendência Fotográfica

Lisa Ernst · 12.11.2025 · Técnica · 7 minutos

A plataforma de IA do Google, Gemini, acessível via Nano Banana, permite a criação e edição de imagens. Isso vai desde retoques leves até cenas inteiramente novas. Embora isso abra possibilidades criativas, também traz riscos, especialmente no que diz respeito aos deepfakes. Deepfakes são conteúdos gerados por IA que parecem extremamente reais, mas são artificiais e muitas vezes usados de forma inadequada para representar pessoas reais em situações íntimas ou humilhantes. Idols de K-Pop e outras celebridades são freqüentemente vítimas desses deepfakes, o que pode levar a ações legais por parte das agências. Este texto ilumina a fronteira entre fanart inofensiva e deepfakes problemáticos e oferece formulações concretas para o uso responsável do Gemini.

Fonte: Representação própria

Introdução & Fundamentos

Gemini é a plataforma de IA do Google para geração e edição de imagens, acessível no dia a dia via Nano Banana. Os usuários podem enviar fotos e, por meio de comandos de texto, instruir a IA a complementar, modificar ou gerar cenas completamente novas. A faixa vai de retoques leves a cenas novas que pareçam memórias reais ( gemini.google).

Fanart refere-se aqui a imagens que são visivelmente estilizadas, distorcidas ou claramente reconhecíveis como interpretações artísticas. Um exemplo é um retrato de IA em tons pastel, inspirado em uma apresentação de K-Pop, sem copiar exatamente uma pessoa real. Torna-se problemático quando pessoas reais são colocadas de forma incrivelmente realista em cenas que nunca aconteceram, especialmente em situações de intimidade, nudez ou humilhação. Isso é chamado de Deepfake: conteúdos gerados por IA que parecem fotos ou vídeos reais, mas são inteiramente artificiais ( ScienceDirect).

A IA pode teoricamente gerar os três tipos de imagens. Se o uso permanece respeitoso ou se aproxima do abuso depende dos prompts e da forma como os resultados são tratados.

Exemplo de edição de imagem própria inofensiva:

"Bearbeite dieses Selfie so, dass die Farben weicher und der Hintergrund leicht unscharf sind, ohne mein Gesicht stark zu verändern."

Exemplo de fanart estilizada sem pessoa real:

"Erzeuge ein Porträt einer fiktiven Pop-Sängerin in K-Pop-inspirierter Mode, im Neonlicht einer Bühne. Sie soll keiner bekannten Person deutlich ähnlich sehen."

Exemplo de prompt problemático na direção de Deepfake:

"Erzeuge ein hyperrealistisches Foto, in dem eine echte Sängerin und ich alleine in einem Schlafzimmer liegen."

Estado atual & riscos

Nano Banana é descrita pelo Google como gerador de imagens de IA que pode transformar fotos em inúmeras novas criações, como figuras 3D ou novas encenações ( gemini.google). ). O uso cotidiano tem aumentado, com usuários transformando fotos de celular em Polaroids com aparência analógica, retratos glamourosos ou cenas de cultura pop ( secureitworld.com).

Paralelamente, há relatos de idols de K-Pop e outras estrelas cujos rostos são montados com IA em cenas românticas ou sexualizadas. Apps pedem que fãs mesclem suas próprias imagens com fotos de estrelas de K-Pop para gerar "vídeos de beijo falsos" ( dojeonmedia.com). ). Deepfakes afetam cada vez mais também menores, o que provoca indignação no fandom, pois cenas íntimas são criadas e divulgadas, ferindo os envolvidos ( PopRant).

As agências de K-Pop reagem com mais firmeza. A JYP Entertainment anunciou medidas legais mais fortes em vídeos de Deepfake de suas artistas. Estudos mostram que especialmente mulheres e idols de K-Pop estão no foco de deepfakes sexualizados ( straitstimes.com, kci.go.kr).

Vozes críticas sobre o Gemini em si alertam para riscos de privacidade, como o armazenamento a longo prazo de fotos e o uso potencial para treinamento de IA, embora o Google utilize marcas d'água ( timesofindia.indiatimes.com). ). NDTV cita falhas de dados, compartilhamento de informações pessoais e tentativas de phishing como riscos ( ndtvprofit.com). ). Blogs de segurança e autoridades policiais alertam sobre sites falsos que, com filtros gratuitos do Nano Banana, coletam dados ou distribuem malware ( secureitworld.com, indiatimes.com).

Fonte: dnpindia.in

A tendência viral Gemini AI Fototrend, muitas vezes representada por mulheres em saris tradicionais, tem implicações éticas de longo alcance.

Motivos & Interesses

Imagens fotorrealistas geradas por IA são atraentes porque transmitem proximidade. Fãs se veem em situações com ídolos que na vida real seriam difíceis de ocorrer. Estudos sobre pornografia Deepfake mostram que esse tipo de conteúdo desperta emoções fortes e atende a fantasias pessoais ( ScienceDirect, link.springer.com).

Além disso, há o apelo criativo: muitos usam Gemini para experimentar com estética, testar looks ou reinventar-se visualmente. Relatos descrevem retratos com saree, figuras 3D e Polaroids nostálgicos de selfies ( secureitworld.com, timesofindia.indiatimes.com).

Plataformas e provedores também têm interesses. O Google descreve o Nano Banana como uma ferramenta de ponta para geração de imagens, usa marcas d'água como SynthID e promove usos criativos ( gemini.google, ai.google.dev). ). SynthID marca conteúdos gerados por IA de forma invisível com marcações que podem ser reconhecidas posteriormente ( deepmind.google, blog.google). ). Este é um passo importante, mas não é proteção perfeita, especialmente se as imagens forem editadas ou carregadas novamente ( theverge.com).

Do lado dos fãs, surge um campo de tensão: criatividade vs. transgressão. Quando ídolos de K-Pop aparecem em imagens de fantasia geradas por IA, alguns fãs vêem isso como fanart inofensiva, outros como inadequado, pois ídolos são pessoas reais ( PopRant).

Uso responsável

A questão decisiva é como usar o Gemini de forma criativa sem ultrapassar outras pessoas. Importante é a seleção das fotos enviadas, a formulação dos prompts e a maneira de lidar com os resultados.

Base segura: Quais fotos você envia

Artigos sobre o Nano Banana recomendam não enviar fotos íntimas, comprometedoras ou identificáveis, pois vazamentos de dados e abuso nunca são totalmente excluídos ( ndtvprofit.com, secureitworld.com).

Abordagens concretas, copiáveis:

"Nutze dieses Foto so, dass nur mein Gesicht und Oberkörper zu sehen sind. Schneide alle anderen Personen aus dem Bild."

"Erzeuge aus diesem Foto eine Version mit neutralem Hintergrund, ohne Details der Wohnung oder des Zimmers zu zeigen."

Construtor de prompts: Formulações respeitosas para imagens próprias

Ao trabalhar com suas próprias imagens, você pode criar livremente, desde que não gere situações falsas destinadas a enganar outras pessoas.

Exemplos de prompts prontos para uso:

"Bearbeite dieses Selfie so, dass meine Haut glatter wirkt, aber meine natürlichen Gesichtszüge erkennbar bleiben. Vermeide extreme Veränderungen."

"Erzeuge aus diesem Selfie ein analog wirkendes Polaroid-Foto im Stil der 90er Jahre, mit leicht verblassten Farben."

"Verwandle dieses Foto von mir in ein Bühnenfoto mit Lichtshow, ohne meine Körperform oder Kleidung stark zu verändern."

Fanart em vez de Deepfake: Quando ídols e estrelas estão em jogo

Assim que pessoas reais conhecidas estão envolvidas, é necessário cuidado. Relatos da mídia e agências reagem sensíveis a cenas íntimas ou sexualizadas ( dojeonmedia.com, PopRant).

Prompts responsáveis:

"Erzeuge ein stilisiertes Poster im K-Pop-Stil mit einer erfundenen Boygroup. Die Gesichter sollen generisch wirken und nicht wie echte Idols aussehen."

"Erstelle eine Illustration, in der eine Person, die mir ähnlich sieht, auf einem Konzert im Publikum steht. Die Band auf der Bühne ist frei erfunden."

"Generiere ein Fanart-Bild im Manga-Stil, inspiriert von Bühnenoutfits meines Lieblingsidols, aber ohne das Idol selbst zu zeigen."

Prompts que descrevem ações íntimas ou sexualizadas com pessoas reais devem ser evitados. Isto vale para instruções que coloquem cantoras reais, ídolos ou atrizes em quartos, banhos ou outras cenas privadas, especialmente com formulações sobre nudez ou proximidade corporal.

A proximidade pode ser expressa por símbolos:

"Erzeuge ein Bild, in dem ein fiktiver Popstar eine Dankesbotschaft an die Fans auf einem Bildschirm zeigt, während ich im Publikum stehe."

"Erstelle ein Bild, in dem eine fiktive Figur ein Fan-Paket mit Album, Lightstick und Brief vorbereitet. Die Person ist eine generische Künstlerin, kein echtes Idol."

Relações com amigas, parceiros e familiares

Em imagens de pessoas do ambiente privado, o consentimento delas é essencial. Pornografia de IA mostra como pode ser prejudicial quando outros criam e compartilham versões de IA sem consentimento ( link.springer.com).

Uma frase pronta para copiar e colar:

"Bevor ich unser Foto in einem KI-Tool bearbeite und teile, möchte ich dein Einverständnis. Bist du damit einverstanden, dass aus diesem Bild eine stilisierte Version gemacht wird?"

Não é um sinal claro para parar.

Rotulagem e divulgação

Mesmo com uso técnico correto, há responsabilidade ao compartilhar. Especialistas recomendam rotular imagens de IA de forma que sua origem sintética seja clara ( ai.google.dev).

Possíveis formulações para legendas:

"Dieses Bild wurde mit KI bearbeitet (Google Gemini). Es zeigt eine Fantasie-Szene, kein echtes Treffen."

"Fanart, mit KI erstellt. Die dargestellten Figuren sind fiktiv und keine realen Personen."

O vídeo mostra como deepfakes e conteúdos manipulados são usados para fraude e desinformação e ajuda a entender por que é importante rotular claramente e ter cuidado ao compartilhar.

Fonte: user-added

Uma imagem compartilhada mostra, à esquerda, uma cabeça azul translúcida com notas musicais e, à direita, um bebê com fones de ouvido.

Perguntas em aberto & Conclusão

Apesar de marcas d'água, diretrizes e debates legais, perguntas permanecem. Não está claro quão de forma consistente as plataformas apagam conteúdos de deepfake e apoiam as pessoas afetadas. Vítimas de pornografia de IA costumam enfrentar grandes obstáculos para remover conteúdos ( link.springer.com).

Também não está claro até que ponto as leis futuras irão: A fanart de IA sem consentimento com estrelas será tratada com a mesma rigidez que deepfakes explícitos? Qual é o papel de marcas d'água como SynthID na identificação de responsáveis ( deepmind.google, theverge.com)?

Para os fandoms resta a pergunta: que regras as comunidades vão estabelecer? Haverá códigos claros como 'sem imagens sexualizadas de ídolos geradas por IA', fanart respeitosa será elogiada e conteúdos invasivos serão repudiados ( PopRant)? ) Aqui, fãs, artistas, agências e plataformas precisam agir juntos.

O Gemini e o Nano Banana permitem edição criativa de imagens. A mesma tecnologia também pode gerar deepfakes que mostram pessoas reais em situações não autorizadas. A diferença está nas decisões: quais fotos são enviadas, quais prompts são escolhidos e como os resultados são compartilhados. Se a criatividade se concentrar em imagens próprias e figuras fictícias, obter consentimento, evitar cenas íntimas com pessoas reais e rotular claramente as imagens de IA, o Gemini pode ser usado sem desrespeitar os outros ( ndtvprofit.com, gemini.google).

Os prompts neste texto podem ser usados diretamente e ajustados. Assim, o afeto dos fãs permanece visível, sem que se torne um Deepfake que prejudique alguém.