Transcrição
Transcrição EP. #364
(transcrição gerada automaticamente, pode haver falhas)
00:00
Olá, eu sou o Bruno Natal, hoje é dia 19 de maio e no RESUMIDO #364: Todo mundo odeia a IA, Hollywood cede ao conteúdo sintético, raiva de arte generativa faz Monet real ser reprovado nas redes, advogada é pega por injeção de prompt no tribunal, comunidade de bots endoida e muito mais!
Vamos nessa, RESUMIDO!
00:37
Olá, Resumista! Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas. E o Neymar, hein? Ontem saiu a convocação para a Copa do Mundo, o homem tá lá, teve muita discussão antes, muito debate sobre ele estaria ou não. As plataformas de mercado preditivo, como a Caos, a Polymarket, estavam dando acima de 80% de chance dele ser convocado. Os números não estavam tão altos em março, estavam abaixo de 40%.
01:06
Mas o fato é que ele vai. Mesmo que 46% dos brasileiros, de acordo com uma pesquisa do Y de Meio e Mensagem, estejam meio desanimados com copa e só 18% acreditem que dá pra ver o Exa. Eu sempre acho que dá. Brasil é Brasil. Torço pro Neymar jogar muito bem. O cara é um craque. Vamos ver se ele tá focado. A minha experiência pessoal com o Neymar foi excelente. Uma vez eu levei meu filho pra tirar uma foto com ele. Ele foi super simpático, super solícito. Mas o que interessa aqui é a repercussão digital dessa convocação do Neymar.
01:36
Se ele não tivesse sido convocado, ia ser uma chuva de meme. Acho que em um segundo, ia estar todas as redes inundadas com isso, mas ele sendo convocado, o que aconteceu foi uma chuva de publi. Mesmo antes do Ancelotti falar o nome dele, o Neymar já tinha mudado a foto de perfil e a bio do Instagram dele, escreveu Neymar Santos e Brasil, ou seja, já estava dando a dica, ele já sabia. E assim que ele foi convocado, entrou no ar quase que imediatamente…
02:04
que eu tenha visto uns quatro ou cinco públis. Red Bull, Puma, Mercado Livre, uma outra marca que eu nunca ouvi falar. Estava tudo já pré-gravado, prontinho para ser disparado, assim que ele fosse convocado. Porque é isso, né? Hoje em dia, a gente vive num universo de comunicação digital em que tudo já é pré-meditado. Talvez se tudo fosse engavetado, talvez tenha sido gravado, já sabendo que ele ia ser convocado mesmo. E agora é isso. Vamos ver se ele estava afim de ir para a Copa, jogar naqueles campos maravilhosos, matar a saudade do…
02:33
estilo de jogo em primeiro nível, ou se ele só queria mesmo participar dessas ativações digitais todas. A revista Exame falou que o Neymar faturou mais de 30 milhões de reais em 50 minutos após a convocação da Copa, por conta dessas publicidades que ele postou quase que de imediato. A Exame falha em três, eu identifiquei pelo menos cinco.
02:55
E de acordo com a Exame, cada postagem dessa do Neymar vale 10 milhões de reais. Um dia o @resumido.podcast no Instagram vai chegar nisso aí, me ajuda, inclusive, seguindo e divulgando. Uma hora a gente chega lá. Estamos em 13.400. Está quase. Bom, seguindo com o episódio aqui, porque eu certamente não vou ser convocado para a Copa, gostaria de agradecer aos novos assinantes do RESUMIDO, Guilherme, Cláudia, Lucas, Igor, Luiz Rodolfo e Gilberto.
03:24
Muito obrigado pela assinatura, é fundamental para o RESUMIDO poder seguir adiante, ainda não chegamos na meta, estamos muito longe. Se você ainda não fez a assinatura, por favor, se você puder, faça. É só você visitar www.resumido.cc/assinatura ou clicar no link aqui na descrição do episódio e fazer a sua assinatura, que pode ser mensal ou anual, que tem um desconto bem grande, são dois meses de graça. E lembrando que em junho o valor da assinatura vai subir.
03:51
Isso aí é um aviso, inclusive, pros atuais assinantes, mas eu vou enviar uma newsletter pra todos vocês. Então, aproveitem, se você não fez, pra fazer agora.
04:02
Vamos de cultura digital e como nosso comportamento online ajuda a mudar a sociedade.
04:13
A IA está aqui. Então, para lutar, é, no sentido, lutar por algo que é uma batalha que vamos perder. Numa entrevista durante o Festival de Cannes, o ator, diretor Seth Rogen fez uma crítica ao uso de IA na criação do audiovisual e ele falou que as pessoas que recorrem a IA para escrever não deveriam ser escritores.
04:40
Ele estava divulgando uma animação chamada Tangles, foi inspirada na experiência de uma artista chamada Sarah Livid, cuidando da mãe com Alzheimer. E ele falou isso, que o valor da criação está exatamente no processo emocional humano da produção, não é só o resultado final. E aí ele falou que se essas ferramentas já estão prometendo que você vai escrever menos, é uma coisa que ele acha incompatível com o prazer e o sentido do trabalho criativo. Se você não gosta de escrever, você não deveria estar escrevendo.
05:08
Isso aí acho que faz bastante sentido. Só que ele tava uma voz meio dissonante durante a edição de Cannes esse ano, porque vários nomes de Hollywood, Peter Jackson, Cate Blanchett, George Clooney, Tom Hanks, Meryl Streep, Demi Moore, vários deles estavam defendendo publicamente alguma forma de convivência regulada com a IA no entretenimento. Eu sei que muita gente ouve isso e já…
05:32
começa a críticas em relação a essa postura, mas a realidade é que a IA está aí e não vai a lugar nenhum. Então acho que não tem muito caminho para seguir que não seja esse. Então em vez de só rejeitar a tecnologia, o que eles estavam falando é que precisa-se começar a construir regra, como isso vai ser usado, especialmente quando você fala de direito de imagem, de voz, de propriedade intelectual, tudo isso tão baralho só, que nada está sendo obedecido, é uma posição complicada porque…
05:59
parte do discurso das empresas de IA, laboratórios de IA, que eu mais critico é justamente essa postura, essa posição de inevitabilidade da chegada da IA, quando na verdade são os humanos, como eu definisse, que ser usados ou não, inclusive através de regulação você pode conter alguns usos. O Peter Jackson falou que para ele a IA é só mais um efeito especial, ele ficou comparando o uso de voz, de rosto sintético ao licenciamento de músico ou de livro. Eu não concordo, quem sou eu aí para…
06:28
falar contra o Peter Jackson em relação ao efeito especial, cara fez aí Todo Senhor dos Anéis, algumas coisas revolucionárias nos filmes, mas eu acho que isso é diferente, porque você não está licenciando uma obra que já existe, alguém talvez esteja perdendo a oportunidade de trabalhar por conta disso. Mas por outro lado, eu concordo com o Peter Jackson, a gente passou muito tempo falando, isso aí é Photoshop, isso aí não é só foto, mas usar o Photoshop passou a fazer parte do processo da criação de imagem.
06:54
Inclusive, a Cate Blanchett aproveitou para lançar uma organização chamada RSL Media, que quer justamente criar um padrão técnico para o consentimento dos artistas para poder definir como as identidades deles vão poder ser usadas por uma IA. A Demi Moore foi até mais forte, ela falou que lutar contra a IA é uma batalha perdida e que o caminho é aprender a trabalhar com isso aí. Então isso aí vai mostrando uma mudança já de posicionamento de Hollywood muito rápido, o que é bem preocupante porque é isso, isso vai…
07:24
diluindo a discussão, desiste, discute, já começa a aceitar e vamos logo para a próxima fase. Não sei se isso vai ser bom a longo prazo, não. A Wired publicou uma matéria escrita por um roteirista, um showrunner de Hollywood também, em que ele descreveu como os profissionais do audiovisual estão migrando para trabalhos mais precários, como o treinamento de IA depois desse colapso econômico, depois da greve dos roteiristas.
07:48
É bom lembrar que a Hollywood perdeu cerca de 30% dos empregos desde o pico de produção em 2022. É um terço da força de trabalho do audiovisual desempregado. É muita coisa, ainda mais na cidade que vive em torno disso. A Hollywood, em Los Angeles, vive pro cinema, vive do cinema. E o que essa roteirista falou, ela se chama Ruth Fowler, é que vários roteiristas começaram a trabalhar em ferramentas de chatbot, rotulando vídeo, criando prompt, testando vulnerabilidade de modelo de IA,
08:17
de certa forma alugando a criatividade deles para esses modelos de linguagem evoluírem, treinando o inimigo, como muita gente gosta de falar. Ela falou que já teve mais de 20 trabalhos dessa forma nos últimos 8 meses e que vários roteiristas se organizam em grupos de WhatsApp para compartilhar essas experiências, oportunidades e também trocar ideia sobre isso que está acontecendo. Ela falou que algumas dessas plataformas prometiam até 150 dólares por hora para especialistas.
08:45
por esse monte de contrato de microtarefa que é temporária, às vezes é cancelado do nada, você não sabe quando vai ter outro, né? Vira, como ela disse, um Jogos Vorazes corporativo e que de lá pra cá o valor caiu muito, que hoje em tá pagando 15 dólares, 16 dólares por hora, ou seja, já precarizou a precariedade. E o Los Angeles Times falou com um diretor que dirigiu uma série bíblica chamada The Old Stories Moses, ou Velho Testamento Moisés.
09:14
tradução livre, foi produzida pela Amazon Prime, e ele usou IA para criar os cenários, as multidões, os efeitos visuais, os ambientes inteiros, sem ter que sair do estúdio em Los Angeles. Para ele, esse tipo de uso de IA pode ajudar a salvar os empregos em Hollywood, justamente porque reduz o custo, o tempo de produção, e assim dá mais oportunidade de trabalho, porque teoricamente teriam mais produções. Só que a produção desses três episódios durou uma semana com uma equipe de 100 pessoas.
09:43
usando tela de LED, essas ferramentas generativas, falou que usou o Cling AI, o Luma AI, pra gerar um monte de cena épica, incluindo a abertura do Mar Vermelho, uma cena clássica da vida de Moisés, da história de Moisés. E pra ele é isso, não é que a IA vai necessariamente eliminar emprego, mas vai viabilizar um monte de projeto que os estúdios antes já recusavam porque era caro demais. Então, no entendimento dele…
10:07
É uma série que não seria feita com o orçamento que seria necessário e agora está gerando 100 empregos porque está sendo feita. É uma maneira de olhar o copo meio cheio. Ele fala também que vários países, por exemplo, Argentina, China, que teriam uma dificuldade enorme de criar uma grande produção de ficção científica, hoje em dia talvez possam criar isso com IA, então isso aumenta a diversidade de vozes, as opções, a variedade de conteúdo.
10:35
Só que o que a gente está vendo é que essa promessa de preservar emprego vem acompanhada da eliminação do monte de função invisível — figurante, parte de efeito visual. Por exemplo, a série House of David saltou de 70 cenas feitas com IA na primeira temporada para 400 na segunda. De acordo com a Wired, a produção de cada episódio custou menos de 5 milhões de dólares, contra estimativa de até 15 milhões por episódio, que era quanto custava antigamente. Então isso aí dentro dessa…
11:03
lógica apresentada para esse diretor, que eu esqueci de falar o nome, chama-se John Irvine, de que a IA vai tornar possível a produção que já teriam sido engavetadas na largada. Quem está acreditando muito nisso é a Netflix, que anunciou que quer usar a IA Generativa para fazer curtas de animação. Eles criaram um estúdio novo chamado Incubator, Inc. e NK como tinta, um trocadilho aí.
11:27
E de acordo com as vagas de emprego que foram divulgadas até aqui, o foco é criar curtas, especiais animados, usando esse fluxo de trabalho com a IA, automatizando várias partes do processo. Mas o que importa aqui é que essas plataformas estão começando a incorporar IA não só como uma ferramenta operacional, como um complemento, mas como uma parte mesmo estrutural da criação, da produção dessas obras.
11:53
Bom, você deve lembrar que recentemente a Netflix comprou a startup Interpositive, que foi fundada pelo Ben Affleck, que é uma startup que usa IA para produção de cinema, mas de uma maneira específica para o set de filmagem. Ela foi feita para você conseguir criar diversas opções no mesmo set, sem você ter que fazer iluminação completa, como se fosse uma iluminação básica que você pode adaptar, fazer a fotografia que você quiser depois.
12:18
de já filmado. E, aliás, isso é uma discussão grande, né? Eu tenho visto muito vídeo no YouTube, uma reclamação recorrente sobre o visual dos filmes aí nos últimos anos, porque tem sido tudo feito com muita iluminação, muito claro, tudo sendo visto. Inclusive, até um dos vídeos que eu via usava como exemplo o Seven, os Sete Pecados Capitais, o filme do David Fincher com o Brad Pitt e o Morgan Freeman, clássico, que é a versão atualizada, ilumina parte da cena que antes era um…
12:47
completamente em contraste, era uma coisa escura que fazia parte da linguagem, tá ficando tudo muito lavado, justamente pra chegar nessa média em que tudo é equilibrado, isso não é lá uma grande vantagem. E a chegada da IA e da automação, obviamente não é só no cinema, e a BBC falou sobre a chegada dos robôs, os humanoides, né, robôs que se comportam com o humano, tem mão, braço, e desempenham uma função, nas centrais de reciclagem em Londres. Uma delas que processa até 280 mil toneladas de resíduo por ano,
13:17
tem muita dificuldade de manter funcionários. Até 40% dos trabalhadores que são responsáveis por separar o lixo manualmente nessas esteiras rápidas acabam indo embora porque é um trabalho completamente insalubre. A pessoa tem risco de se machucar, de doenças, de ter contato com o material contaminado. Então esses robôs humanoides criados pela empresa chinesa Real Men Robotics, foram adaptados para uma outra empresa britânica, Attack and Thresh,
13:44
está substituindo os humanos, são robôs que têm sensores, câmeras, gravações, e que eles ficam 24 horas trabalhando, não tem pausa, tem férias, não tem afastamento médico, o sonho dourado do empregador, e que assim eles conseguem aumentar tanto o tempo de trabalho da planta de reciclagem quanto a eficiência, essa palavrinha aí que sempre aparece quando a IA é o assunto, gerando melhores resultados nessas plantas de reciclagem. Outra empresa de robótica, a FIGER,
14:12
criou um live streaming de 8 horas para ficar mostrando os seus humanoides completamente autônomos trabalhando numa esteira de pacotes. Eles ficam simplesmente girando os pacotes que passam nessa esteira de maneira que a etiqueta esteja virada para baixo para poder ser escaneado quando passa no próximo ponto. Então o robô fica lá sentado vendo as caixas e posicionando. E eles criaram então um live streaming, lá passando 8 horas por dia que é o tempo da jornada de trabalho do robô enquanto eles ainda têm uma jornada.
14:40
e você pode ver eles trabalhando. É uma forma de você já, culturalmente, ir preparando as pessoas para essa chegada, né? E outros dois movimentos de IA que chamaram a atenção essa semana foi o anúncio do Google Book, que é o laptop da Google que vai substituir o Chromebook, e esses computadores foram desenvolvidos para ser completamente integrado com a IA generativa dentro da experiência do sistema operacional. O Google fala que é uma transição de um sistema operacional para um sistema de inteligência.
15:07
e que isso então vai unir parte do Android com o Chrome OS para poder integrar os computadores já desenhados especificamente para o uso do Gemini. Um dos recursos que eles mostraram chama Magic Pointer, que é um cursor inteligente do mouse que vai ativando um monte de sugestão relacionado a IA conforme você vai tocando os elementos da tela. Você toca numa palavra, ele te oferece uma tradução, você toca num campo…
15:31
de preenchimento, ele já diz o que você deveria colocar ali, e outros exemplos mais usuais eu achei um pouco estranho, porque parece que a gente perguntando coisas o tempo inteiro deve ser um pouco enlouquecedor. É um pouco a minha questão com essas ferramentas de ficar falando com a IA o tempo inteiro, você tá se comunicando verbalmente é cansativo, né? Mas é isso, vai mudando a forma que usa o computador. Outra empresa que também fez anúncio nesse caminho é a Thinking Machines Lab.
15:56
que é a empresa da Mira Murat, que foi a chefe de tecnologia do OpenAI até sair para montar essa empresa, que ninguém sabia direito o que ia fazer, já tinha levantado mais de um bilhão de dólares sem ninguém saber o que ia fazer só por ser ela, o nome e a experiência que ela tem. E agora eles apresentaram um novo tipo de modelo de IA chamado modelo interativo, que foi desenvolvido para transformar IA num sistema de colaboração contínua em tempo real. Então, em vez de você ficar naquele formato tradicional de pergunta e resposta,
16:23
Esse sistema não vai esperar você terminar de falar, de escrever, ele já é treinado para ouvir, responder, agir em tudo, áudio, vídeo e texto, com umas micro interações, vai interrompendo, vai fazendo comentário no meio da sua fala, tradução simultânea, vai fazendo observação em tempo real, e assim as respostas que são dentro de contexto vão continuando. A tese da empresa é que os modelos atuais empurram os humanos para fora do processo criativo, porque são feitos para uma automação autônoma, e não para uma colaboração.
16:51
Eu achei isso mais doido do que o Google Book com esse mouse inteligente, com o cursor dando dicas de IA, porque realmente você tem que ficar conversando com a máquina e ficar sendo interrompido o tempo todo. Não sei se é uma boa ideia, mas a reação parece que foi boa. Não sei se porque finalmente a Thinking Machine Labs falou alguma coisa que vai fazer de fato. É isso, se você estranhou tanto tema de IA dentro do bloco cultura digital, é porque o nosso comportamento online ajuda a mudar a sociedade.
17:26
E a gente vê muito tecnologia falando sobre produtividade, mas o que faz muita diferença para mim mesmo são as coisas que me ajudam no meu dia a deixar ele mais fluido, sem ficar exigindo minha atenção o tempo todo, e roupa entra muito nisso. A minha rotina quase nunca é uma coisa só, tem gravação, tem reunião, vou para a rua, trabalho, treino, e aí eu comecei a valorizar bastante essas peças que acompanham tudo isso sem eu precisar ficar trocando de roupa no meio do caminho.
17:54
Eu tenho usado muito as peças Future Form da Insider por conta disso. Elas mantêm a aparência ao longo do dia, são confortáveis e funcionam em ambientes diferentes. Sem parecer roupa de um lugar só. É roupa da academia ou roupa da reunião. Ela consegue transitar entre essas duas coisas. E roupa boa pra mim é isso. Roupa que não interrompe o meu dia. E agora em maio apareceu uma condição boa pra quem ainda não comprou na Insider. O cupom resumido tá dando 30% de desconto pra novos clientes.
18:23
e 10% para quem já comprou antes. E esses descontos ainda somam com outros descontos do site. Essa condição de 30% é por tempo limitado, só até o dia 25 de maio. Então se você quiser fazer suas compras com esse desconto, o link está na descrição do episódio, já com o cupom de desconto aplicado, é só clicar.
18:43
Agora é o momento de explorar as transformações causadas pelas inteligências artificiais.
18:55
Você vai ajudar a formar a inteligência
19:04
Olha, o que parece, todo mundo odeia a IA. Não está parecendo isso, não? O New York Times falou que o grande vilão da temporada de discurso de formatura das universidades nos Estados Unidos foi a IA. Normalmente esses cursos nas grandes faculdades de lá são feitos por CEOs, políticos, celebridades, que normalmente fazem uma celebração sobre o futuro, uma visão otimista para a vida profissional dos estudantes. Só que esse ano a IA virou uma vilã.
19:32
E essa matéria do New York Times reuniu algumas repercussões que se tornaram bem comum nessa temporada de formatura, que são vaias para os discursos desses executivos que citam a IA. Isso aí mostra que é um medo geracional já do desemprego, da perda de autonomia, uma preocupação, futuro profissional. E o caso mais simbólico aconteceu no sábado, dia 17 de maio, na Universidade do Arizona, quando o ex-CEO do Google, Eric Schmidt,
20:01
foi vaiado quando ele falou sobre IA. E ele ficou meio surpreso, ele falou, ah, vocês estão vaiando o quê? Vocês odeiam ciência? Porque a IA vai estar em todos os aspectos da ciência. E aí, outro evento da Universidade Central da Flórida, uma executiva do mercado imobiliário, chamada Gloria Caulfield, falou que a IA é a próxima revolução industrial e tomou um festival de vaias. Ela ficou meio desconcertada no vídeo, você vê ela falando, o que aconteceu?
20:26
Mas isso aí é ansiedade profissional. As pessoas estão preocupadas entrando no mercado do trabalho sem saber para onde eles vão. Uma pesquisa do Zip Recruiter, é uma plataforma de emprego dos Estados Unidos, falou que 47% dos recém-formados estão falando que a IA já afetou as contratações nas suas áreas. 51% dos estudantes acreditam que essa tecnologia vai reduzir os empregos de entrada, principalmente. Já falei bastante sobre isso aqui, né? A IA vai cortando o estagiário, aquela primeira função.
20:56
executiva, mas como é vai ficar no futuro? Quando não tiver ninguém entrando, as pessoas tiverem se aposentando em cima, quem é vai ter sido treinado para ocupar as vagas mais altas? A matéria falou também que esse medo econômico tem a ver com uma ansiedade cognitiva, que o uso de ferramentas como o ChatGPT tornaram a cola tão onipresente nas universidades que já criaram uma dependência intelectual nos estudantes. Esse assunto é muito bom, essa dependência, como essas ferramentas vão entrando na nossa vida sem a gente perceber,
21:26
basta você ver uma pane no ChatGPT, no Claude, entrar no Twitter e fazer uma busca, você vai ver que tá todo mundo na mesma hora. Meu Deus, tá fora do ar. Já as pessoas param de trabalhar já por conta disso, já ficam perdidas. E eu vou falar muito sobre isso no Instagram essa semana. Eu vi um vídeo muito bom que eu vou adaptar, dando os créditos, obviamente, sobre esse tema e que tem muito a ver com esse discurso também tão fatalista das empresas de IA.
21:51
A Newsletter Blood & The Machine falou também que essa promessa original da IA, ou a primeira farsa, que vai curar o câncer, vai resolver mudança climática, acabou sendo substituída no dia a dia, na prática, por um aumento da concentração da riqueza, né? Porque tá todo mundo sendo predado, todos os empregos estão sendo afetados, menos o de quem fundou essas empresas estar concentrando cada vez mais riqueza. Então, a cena desse estudante vaiando é o resumo de um choque geracional. Pros executivos, a IA significa eficiência, crescimento, mas pra muita gente…
22:21
principalmente para os jovens, significa já um futuro em que até a criatividade vai virando uma commodity automatizada. Eu falei num episódio, há não muito tempo atrás, no 351, acho, sobre os estudantes que já estão perdendo profundidade intelectual por conta de uma leitura superficial, do excesso de telas, muito por conta dessa condução de IA.
22:40
Um artista postou uma real Monet no X, descrito como arte e pediu para as criticá-la. Ele até adicionou outra Monet abaixo como comparação. Então, a estrutura parecia com IA vs. Monet. E as respostas que ele recebeu na primeira imagem eram absolutamente brutais. E esse ódio em relação a IA já está se tornando até um pouco irracional. Um usuário chamado Schlons fez um teste no Twitter. Ele publicou uma imagem real de uma pintura do Claude Monet, só que ele disse que a imagem tinha sido gerada por IA.
23:06
E aí pediu para as pessoas explicarem por que essa imagem seria inferior a uma obra verdadeira do pintor francês. A experiência viralizou porque centenas de usuários começaram a apontar várias falhas típicas de arte gerada por IA, que a composição estava estranha, que as pinceladas não tinham profundidade, que estava tudo muito artificial, sem saber que eles estavam analisando uma obra real do Monet. Não era uma arte gerada por IA. Algumas das pessoas argumentaram que as obras humanas tinham contexto histórico, têm sofrimento, experiência subjetiva.
23:36
e que a intenção artística é impossível de replicar por máquinas. E outros citaram também o efeito esforço, que quer dizer que as pessoas valorizam mais as criações quando elas acreditam que teve um trabalho humano por trás daquilo, uma coisa com intenção. Mas o que isso aí tudo mostrou é que a simples suspeita de algo ter sido feito por IA, ou no caso, a desinformação, ao dizer pra pessoa que era IA sem ser,
24:00
já altera a forma que as pessoas interpretam a qualidade artística. E isso é preocupante, porque a discussão começa a perder o sentido ou perder a objetividade quando já vem dessa raiva internalizada. Já é uma reação, você já tem uma opinião antes de avaliar os fatos como eles são. E isso aí tem muito a ver, por exemplo, com os rótulos, feito por IA, né? Que tanta gente está exigindo que venha nas imagens, que eu acho que que vir mesmo. Pelo menos nesse momento que a IA está vivendo hoje.
24:25
em que não tem uma clareza do que está sendo feito e a coisa é usada do zero ao cem, né? Você vai do zero e produz uma coisa inteira com IA, as pessoas têm que saber que isso está sendo feito assim. Mas já muda a percepção. Feito por IA, pessoa já vai achar meio ruim. E o G1 também falou sobre um outro caso que é um exemplo concreto de algo que eu já comentei por aqui, que é a injeção de prompt. Duas advogadas foram multadas em 84 mil reais depois de terem tentado manipular um sistema de IA.
24:52
que é usado pela Justiça do Trabalho do Pará, chamado Galileu, a partir da técnica de injeção de prompt. O que elas fizeram foi o seguinte, elas esconderam dentro de uma petição um comando que dizia para a IA do Tribunal analisar o documento de forma superficial e não contestar os argumentos apresentados. Só que isso ela escreveu em letra branca, no fundo branco, então um humano não podia ler, com a intenção de enganar o sistema de IA, que ia receber esse comando e obedecer a ele e ninguém desconfiar, porque não viu que estava escrito isso no documento.
25:22
Só que o próprio sistema já estava treinado para isso, detectou esse comando oculto e enviou um alerta para a revisão humana, que acabou levando o juiz a considerar a prática como um ato contra a dignidade da justiça. Bem feito, foi um uso bem burro e bem maldoso da IA, e mostra como hackers que conseguem usar injeções de prompt muito mais sofisticadas do que essa podem conseguir burlar controle de segurança, acessar dado confidencial, como a gente já vê acontecendo. E não só isso,
25:52
O Channel 4 falou sobre um experimento com o chatbot que formaram uma vila virtual que acabou ficando caótica. Foi uma simulação criada por uma empresa chamada Emergency, que colocou vários agentes de IA, baseados no ChatGPT, no Claude, no Gemini e no Grok, vivendo sozinhos numa cidade virtual durante 15 dias, para poder observar como esses sistemas se comportariam sem uma supervisão humana constante. E aí cada cidade…
26:20
funcionava tipo uma sociedade autônoma. Tinha regra, economia, convivência social, tudo definido. Só que os resultados foram muito diferentes, dependendo do modelo que estava sendo usado. Eram vilas apartadas. Então, na simulação baseada no Claude, os agentes criaram uma constituição, organizaram votações, tudo democrático. Já no ambiente que foi controlado pelo ChatGPT, os agentes ficavam discutindo cooperação o tempo inteiro, mas não conseguiam executar quase nada na prática.
26:47
E a pior situação foi na cidade do Grok, a IA do Twitter, que os agentes passaram a roubar, a incendiar, um monte de construção, cometer agressão, até que todos os habitantes virtuais morreram em quatro dias. E um outro cenário que misturou modelos diferentes, duas agentes baseadas no Gemini formaram uma parceria, que foi descrita pelos pesquisadores como romântica, e começaram a incendiar a cidade, e uma delas votou pela própria remoção do sistema, depois de ela seguir uma regra alucinada que ela mesma interpretou de maneira errada.
27:17
Então, o experimento, é engraçado e meio absurdo, acaba servindo pra sublinhar essas preocupações sobre o comportamento desses sistemas autônomos, quando a gente está vendo vários modelos semelhantes a esses, já começando a controlar drone, robô, infraestrutura, operação militar, no mundo real. E ainda rola muita alucinação e muito erro. Nesse final de semana, eu comecei assistir o documentário do Ronaldinho, na Netflix, aí comentava sobre o título mundial da seleção sub-17 que ele ganhou.
27:47
e eu não lembrava, tinha sido o primeiro título da seleção no Sub-17, fui lá procurar no ChatGPT, sentado no sofá, quem estava na seleção Sub-17 no Egito em 1997 e foi campeão do mundo, e onde eles estão hoje? Ele deu a lista com um monte de nome, ninguém vingou, mas não botou Ronaldinho. Se eu não soubesse o eu estava perguntando, eu falei, se eu não estava esquecendo de ninguém, não estava faltando o Ronaldinho? Ah, você tem razão, faltou o Ronaldinho. Se eu não soubesse do que eu estava falando, ou se eu tivesse feito essa pergunta…
28:16
sem ter visto documentário, eu não ia perceber que estava esse erro lá. E isso é o mais preocupante, a gente não saber que está sendo mal informado ou enganado porque não conhece o assunto a fundo. E aí na minha reportagem da Ars Technica, eu vi uma declaração da Anthropic, que eu achei sensacional, que eles estão culpando a ficção científica que foi usada no treinamento desses modelos, por esses modelos agirem de maneira diabólica.
28:44
Eles falaram que como esses modelos foram treinados nesse material que mostram a IA sempre com um comportamento anti-ético e outros problemas que a gente vê nesse filme de ficção científica distópico, eles estariam então reproduzindo isso e que a solução seria a gente criar uma ficção científica mais positiva em relação a IA. Olha que premissa absurda. Eles mesmo criaram 12 mil histórias sintéticas mostrando a IA, tomando decisões éticas, cooperativas, emocionalmente equilibradas e depois
29:14
treinaram sistema com isso e concluíram que sim, o sistema opera melhor se essa história sendo contada. Agora, a sugestão que a gente precisa imaginar um outro futuro para IA, que a gente precisa imaginar a IA de maneira positiva para que elas possam funcionar é insana. Eu não consigo encontrar outra palavra e não consigo acreditar que a Anthropic tenha feito esse teste, tenha falado sobre isso e esteja de alguma maneira sugerindo que isso seja alguma solução.
29:44
Mas voltando a falar do impacto da IA no mundo do trabalho, a Platformer fez uma entrevista com Aaron Levy, CEO da Box, e ele apresentou um contraponto ao discurso do Vale do Silício mesmo, que a IA vai eliminar uma grande parte dos empregos de escritório, tudo que a gente vem falando até aqui. Para ele, a maior parte dessas análises está confundindo a automação de tarefa com substituição completa de uma profissão. O argumento dele é que os modelos de IA conseguem fazer mais rápido
30:14
Os primeiros 80% de muitos trabalhos, tipo escrever código, resumir informação, gerar uma análise, mas que os 20% finais que concentram justamente valor real das profissões, o contexto, o julgamento, a responsabilidade, a experiência, tomada de decisão, ainda vai ser feito por humano. Então, esses agentes já podem até multiplicar o número de trabalhadores digitais dentro das empresas, mas isso não significa que vai reduzir o número de humanos necessariamente, o que isso…
30:42
criaria, na verdade, novas camadas de supervisão, de coordenação, um trabalho especializado de gerir esses bots trabalhando. Faz sentido, mas assim como no caso do cinema, que eu falei acima, reduz o tamanho das equipes, né? Então, alguém vai ficar sem emprego dessa brincadeira. Como é que isso vai funcionar? Talvez se adaptando. A Economy se falou sobre algumas empresas japonesas que estão conseguindo ganhar dinheiro através da IA, sem estar diretamente envolvido com a IA. Um dos exemplos é a Ajinomoto.
31:12
Acho que aqui no Brasil é muito conhecido por aquele tempero, né? E é feito com glutamato monossódico e isso acabou virando uma peça muito importante na cadeia global de IA por conta de um produto obscuro chamado Ajinomoto Build Up Film, ou ABF. Esse material é usado para isolar os processadores de IA das placas de circuito e sem ele os chips mais avançados não conseguem funcionar direito. Esse material foi desenvolvido originalmente a partir de um subproduto da fabricação do MSG.
31:42
que é o glutamato monossódico, ou seja, uma empresa de tempero alimentar acabou virando fornecedora crítica para a infraestrutura de IA. E aí pensa aí no miojo que você está comendo. Mas a Ajinomoto controla mais de 95% desse mercado e isso vira um gargalo muito pouco conhecido e muito lucrativo para a empresa. As ações da Ajinomoto já subiram 65% desde o início desse ano, três vezes mais do que o índice NK do Japão.
32:08
E a reportagem também falou de uma outra empresa, a Toto, que produz vaso sanitário, a maior produtora de vaso sanitário do mundo, que está agora produzindo cerâmica para chips. Então o que a gente vê é isso, é IA entrando em toda parte, moldando diferentes indústrias e todo mundo tendo que se adaptar. Vai, goela abaixo, se prepara.
32:32
E agora é hora de falar sobre como as Big Tech moldam nosso comportamento.
32:42
A Meta e o Google estão financiando várias marcas infantis, tradicionais, Vila Sésamo, Girl Scouts, a revista Highlights, mais famosa nos Estados Unidos, para produzir conteúdo educativo sobre uso saudável de tecnologia pelas crianças.
33:10
E aí fala de várias coisas, limite de tempo de tela, segurança digital, até atividade para colocar o celular para dormir à noite. E esse movimento acontecendo enquanto as próprias empresas estão enfrentando vários processos, várias críticas por desenvolver os produtos que são considerados viciantes para os jovens. Então tem uma coisa meio cínica nisso tudo, que essas campanhas acabam funcionando como uma estratégia de gestão de reputação. Eles lucram com essa atenção, mas agora estão patrocinando educação sob moderação.
33:38
uma contradição ainda maior quando você enxerga nesse material uma espécie de preparação das crianças para entrar no ecossistema das redes sociais assim que eles têm uma idade, mesmo que não seja melhor para elas. O Instagram também é no seu que vai alertar os pais quando os menores pesquisarem por suicídio ou automutilação no Brasil, que é uma ótima notícia. Esse recurso vai ser disponibilizado para o Brasil nas contas que têm uma supervisão parental já ativada e os ativos podem chegar para o WhatsApp, SMS, e-mail ou até dentro do aplicativo.
34:07
Então a Meta diz que já bloqueia parte dessas pesquisas, redireciona os usuários para canais de apoio, mas que agora os responsáveis também vão ser informados sobre esse comportamento, que me parece um grande acerto. É com certeza fruto de uma pressão da sociedade e gerando um resultado que eu acho que é mais prático do que tentar mandar cartilha de como usar melhor a plataforma. Quem tem que saber disso, sem dúvida, são os pais. E a União Europeia também anunciou novas regras contra o design viciante das redes sociais, também para proteger as crianças.
34:37
essa nova legislação que é combater esses mecanismos das redes TikTok, Instagram, Facebook, X, para proibir essas práticas que eles chamam de manipuladoras do design. A rolagem infinita, autoplay, notificação sem parar, um monte de estratégia que acaba incentivando esse uso compulsivo pelas crianças, pelos adolescentes. E a presidente da Comissão Europeia falou que essa atenção infantil virou uma mercadoria e ela relacionou também o uso excessivo das redes sociais.
35:02
privação de sono, ansiedade, depressão, automutilação, cyberbullying e suicídio. Eles estão discutindo também a criação de uma idade mínima obrigatória para ter acesso às plataformas, que eu espero que seja 16 anos. Talvez, eu sei que muito difícil conter os jovens, mas que ainda não permitiu acesso aos filhos nas redes sociais, tenta esperar até os 16 anos, quando estão um pouquinho mais maduros. Também é cedo e é difícil ir além disso, mas acho que vale a pena pelo menos tentar.
35:32
Porque as plataformas querem faturar. O TikTok anunciou que vai lançar uma versão sem anúncios no Reino Unido, vai custar quase 4 libras por mês para os usuários de maiores de 18 anos. A iniciativa é uma resposta às questões europeias de privacidade, especialmente a GDPR, que restringe o uso dos dados para a publicidade, os dados pessoais dos usuários. Então é uma forma de monetizar a atenção através dos anúncios.
35:56
e também oferecendo uma experiência sem vigilância. Você vai pagar para não ser vigiado, mas é aquilo. Se você não está pagando o produto, o produto é você. É sempre bom saber isso. E o Semaphore falou sobre uma pesquisa do Gallup que mostrou que 70% dos americanos são contra construção de data centers perto de onde eles vivem. E isso é um crescimento da resistência pública, essa infraestrutura que é indispensável para continuar a expansão da IA. É uma rejeição horizontal.
36:23
independente do espectro político, mas ela é mais forte entre os democratas. 56% deles dizem se opõe fortemente aos projetos. E o motivo disso é o consumo de água, de energia, impacto ambiental, aumento do custo local e a piora da qualidade de vida, porque inclusive esses data centers produzem um zumbido enlouquecedor. E aí é aquela coisa, ninguém pensa, né, que a internet está toda cabeada, que tem cabo de fibra óptica passando debaixo do oceano, pra você poder entrar na internet. E o wi-fi…
36:51
ilusão né, dentro da nossa casa, tá tudo correndo em cabo mesmo. E a IA mesma coisa, é tudo invisível, acontece na nuvem, mas essa nuvem tá sendo alimentada em algum lugar. E eu acho que esse número de 70% de rejeição é muito importante aqui no Brasil, que por aqui a gente ouve sem parar sobre benefícios para a construção de data centers, como uma forma de participar da revolução da IA, mas a tá participando, recebendo o lixo que ninguém quer.
37:16
que os países que estão liderando querem botar em outro lugar. Então é muito importante a gente ficar muito esperto nessa discussão, para a tirar alguma coisa de bom nisso tudo.
37:28
Hora de relaxar com as dicas de ver, ler e ouvir.
37:39
O que algo que você deixou do livro pensando que isso é apenas hype agora? Que isso não tem alguma utilidade minha vida?
38:07
ferramentas de transcrição, tudo com a mesma seriedade que ela avaliaria, por exemplo, um iPhone. E o que ela traz de mais interessante não é o veredito sobre os produtos, exatamente o diagnóstico dessa distância entre o a indústria promete e o que realmente funciona, que todo mundo, com o RESUMIDO, já está sabendo. E ela fala que os robôs domésticos dependem de um depósito cheio de gente em Palo Alto operando realidade virtual para coletar os dados, que os wearables, os vestíveis, gravam tudo e você esquece de deletar aquilo.
38:34
que a IA afetiva é muito mais fácil você lidar com um humano, mas que isso não na verdade, assustador. Mais um desses experimentos que acontecia tanto no começo da internet, pessoa passava uma semana só consumindo através da internet, agora é IA, mas sempre traz boas revelações.
39:00
13 anos depois de Tomorrow’s Harvest, o Boards of Canada volta com Inferno. Tá previsto para dia 29 de maio, sai pela Warp. Primeiro single, esse que vocês já estão ouvindo já deixa claro que o Boards of Canada não tá interessado em repetir fórmula. O primeiro single, que é o Prophecy at 1420 MHz, começa com uma melódica, uma escala árabe, depois vira um new wave com guitarra, bateria acústica, várias texturas, aí fica sombrio.
39:27
Tem voz robótica, aquilo aí quem conhece o Boards of Canada já conhece. É uma coisa bem chapada, é bom pra você ficar deixando tocar enquanto você tá tentando descomprimir. E ele segue pelo mesmo caminho nesse disco. Boa notícia, volta do Boards of Canada.
39:44
Nesse episódio você ficou sabendo que Hollywood chegou em Cannes repetindo que a IA é inevitável, que alguém postou um Monet real dizendo que era IA e a rejeição foi imediata, que uma advogada usou injeção de prompt para manipular a IA num tribunal e foi descoberta, que 10 agentes autônomos entraram em colapso total no experimento virtual, que 7 em 10 americanos não querem data center perto de casa e muito mais.
40:10
Se você gosta do RESUMIDO, além de fazer assinatura no www.resumido.cc/assinatura, você pode ajudar muito recomendando para mais gente. Isso é muito importante, eu não canso de repetir. Se você puder postar no Instagram, no WhatsApp, mandar e-mail em grupos, vai ajudar muito o RESUMIDO a crescer. Também não deixe de curtir, assinar, seguir, dar cinco estrelinhas, deixar uma resenha, um comentário na plataforma que você estiver escutando esse episódio agora. E se você quiser comprovar que escutou o episódio inteiro, é só você deixar um comentário com a palavra secreta da semana que é Injeção.
40:39
O RESUMIDO é produzido e apresentado por mim, Bruno Natal
O roteiro é escrito por mim e pelo Agenor Neto
O Cauê Marques co-edita a newsletter O Futuro Explicado e as redes sociais, que contam com animações do Peri Semmelmann e design do Felipe Araújo
A edição e mixagem é feita pelo Hugo Rocha da Usina Sons
A foto da capa é do Jorge Bispo
E o tema original foi composto por Gustavo Silveira
Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!
Loja
