Alugue um amigo online para férias falsas / IA erra metade das notícias / Cama inteligente travada

(transcrição gerada automaticamente, pode haver falhas)

00:01

Olá, eu sou o Bruno Natal, hoje é dia 8 de outubro e no RESUMIDO #336: aplicativo cria fotos de férias que nunca existiram, plataforma aluga amigos digitais para solidão, campanhas humanitárias usam imagens falsas, influenciadores abandonam redes e voltam à CLT, assistentes de IA erram metade das notícias que resumem, pane na AWS trava até camas inteligentes e muito mais!

Vamos nessa, RESUMIDO!

00:44

Olá, Resumista! Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas. Se você estiver online, deve estar acompanhando a novelinha sobre o cometa 3E Atlas, que foi detectado cortando o sistema solar, vindo lá bem de longe, e com isso a internet voltou a se dividir entre astrônomos e os teóricos do impossível.  Oficialmente,

01:08

O 3i Atlas é um fragmento de um cometa interestelar, mas o comportamento irregular do objeto, que parece fazer manobras de forma autônoma, fez muita gente perguntar, e se for uma nave?  Vai saber, né? Tudo pode acontecer, porque esse é até uma das metades do Daft Punk que resolveu se apresentar como DJ sem máscara, sem capacete, na última noite de festa do Centro Jorge Pompidou, em Paris, antes do fechamento para a reforma.

01:33

Qualquer coisa pode acontecer mesmo. Até uma nave alienígena pode ser verdade. Como disse o grande Alexandre Matias, parece que uma volta do Daft Punk só trava na vontade de uma das metades mesmo. Bom, falando aqui do RESUMIDO especificamente, queria pedir ajuda pra divulgação do RESUMIDO. Eu normalmente dou esse recado no final do episódio, hoje puxei aqui pra cima, pra cabeça do roteiro. E é muito importante quando você faz um post nas redes sociais, no Instagram ou posta no WhatsApp.

02:01

Manda por e-mail, manda no grupo da família,  chamando mais gente para ouvir o RESUMIDO. Isso ajuda demais o programa crescer. Obviamente, eu dependo de audiência para poder ter relevância e o programa poder continuar.  Então, não deixa de fazer esse post não. Eu sei que você acha que você tem pouco seguidor, que ninguém vai ver, mas esses são os posts mais valiosos. Pessoas gostam de ouvir dicas de quem elas conhecem. E se você for dos meus ouvintes famosos, faz aí também um post porque isso aí ajuda demais.

02:29

Beleza? Aproveitar pra deixar também o meu muito obrigado aos novos assinantes do RESUMIDO.  Coliveira, Acaçu, Leonardo, Daniely, outro Leonardo,  Daniela, Ricardo e Jéssica. Continuamos aqui com maioria feminina. Se você ainda não fez essa assinatura,  vai lá em www.resumido.cc/assinatura.  A gente segue travado nos 38%, já tem umas três semanas, então vamos lá dar um gás pra essa coisa andar, né?

02:56

Preciso da sua assinatura pra poder seguir produzindo o RESUMIDO.

03:09

Vamos de cultura digital e como nosso comportamento online ajuda a mudar a sociedade?

03:21

Vamos ver, Wikipedia disse que o tráfego para o site deles está caindo porque as estão usando AI em vez. E o AI disse a mesma coisa, revertiu e citou-o como uma fonte.

03:32

Esse que você ouviu foi o Jimmy Fallon comentando sobre a situação da Wikipedia. Já vou falar sobre esse assunto, mas antes vou falar sobre um app que foi lançado especializado em criar imagens falsas de férias que nunca existiram. Que tal? É o ápice do burnout, a pessoa está com preguiça até de tirar férias. Está gerando com IA imagens de um descanso que não teve.

03:56

Por conta dessa cultura da produtividade que está tomando conta do Vale do Silício, já falei por aqui da regra do 996, que é trabalhar de 9 às 9, 6 dias por semana, parecido com as escalas chinesas, chegou nos Estados Unidos,  muita gente agora está tentando tirar férias digital porque é o que tem. Pelo menos essa é a proposta do app Endless Summer, ou verão sem fim, que é um app para iPhone que cria fotos com IA.

04:25

Segundo o criador, o Laurent Del Rey, é um designer de produto da Meta,  a ideia é permitir as pessoas que estão com esse esgotamento de trabalho pelo menos manifestar uma vida leve que elas merecem. Curioso isso ser criado por um funcionário de Big Tech e uma das Big Techs que está sendo mais apontada por arrochar o trabalho cada vez mais de quem está fazendo parte dessa empresa. As imagens são criadas com o modelo de A do Google, o Nano Banana, que fez muito sucesso por conta da precisão.

04:55

dos prompts, como atende os pedidos. E o app funciona como se um Instagram mesmo. Tem um rolo de câmera, você bota um prompt de como você quer aparecer nas férias e gera essa imagem. As primeiras seis imagens são de graças, mas a partir daí o usuário tem que pagar para gerar novas imagens. Paga 3 dólares e 99 centavos por 30 imagens, até chegar a um pacote de 34 dólares e 99 centavos por 300 imagens. Isso obviamente porque esses modelos são bem caros e devem estar cobrando do criador do app para conseguir responder

05:25

a quantidade de pedidos que vem pelo app. E tem também o modo automático que gera as fotos duas por dia sem você pedir nada. É um app dedicado a romantizar a vida offline nesse estilo casual das redes sociais ao mesmo tempo que expõe o paradoxo de você usar IA para criar ou simular momentos autênticos de lazer. Chegamos nessa hora. Eu também li no Tecnoblog que o Instagram lançou o RESTYLE, ou reestilizar, que é uma ferramenta de IA da meta

05:55

para editar fotos e vídeos diretamente no stories do Instagram.  Você posta uma foto ou quer postar uma foto, tem um detalhe que você não gostou, que você quer apagar, quer trocar cor de alguma coisa, você faz um pedido ali, a foto é ajustada e publicada já com esses ajustes de ar. E assim a gente vê as redes sociais ficarem cada vez menos autênticas,  mais falsas e propagando...

06:19

um ideal, umas imagens que não condizem com a realidade ou com a vida real das pessoas, que era o que interessava as redes sociais no início.  Já passamos desse ponto, falei bastante disso no episódio passado, inclusive quando falei sobre a internet morta, a teoria da internet morta. Confere lá o episódio 335 se você não ouviu esse papo. E não são só as pessoas que querem projetar uma vida idealizada nas redes sociais que estão usando inteligência artificial para gerar imagens falsas.

06:46

O Garden falou sobre como organizações humanitárias de saúde estão recorrendo a produção de imagens com IA para ilustrar campanhas sobre pobreza extrema,  sobre fome, campanhas contra violência sexual.  E essas fotos acabam imitando retratos de pessoas reais em situações vulneráveis e têm sido muito usadas em redes sociais e em bancos de imagens comerciais, inclusive como o Adobe Stock, como o Free Peek.

07:12

E esse fenômeno marca o surgimento do pornô da pobreza 2.0, que é uma nova forma de exploração visual que reforça estereótipos raciais, culturais, só que agora criado com o IA, tudo criado artificialmente com algoritmos.  Essa estetização da pobreza já era um problema com fotos reais e agora simplifica com o uso de ferramentas de IA. A justificativa dessas organizações, claro, é o custo.

07:38

e também problemas com autorização de imagem para usar imagens reais de pessoas em situação de vulnerabilidade. Mas isso aí acaba gerando uma percepção negativa à ONU, inclusive já até retirou uma campanha do ARC contava com esse tipo de imagem por conta da reclamação do público. E aí acaba tendo efeito reverso. Em vez de você sensibilizar as pessoas, as pessoas se sentem enganadas e acabam não engajando com aquela campanha. Fica barato, mas sai caro, né? Se você não arrecada, já deu tudo errado.

08:07

Porque o objetivo dessa campanha é arrecadar fundos e para isso você precisa sensibilizar as pessoas. E obviamente a melhor forma de você sensibilizar as pessoas é com a verdade e não criando ilusões ou maquiando uma realidade para fazer parecer pior do que é, a fim de convencer qualquer pessoa a contribuir. E um outro caso parecido, comentado no Estadão, foi aqui no Rio, de um grupo de pastores que criou um call center da fé para vender orações criadas com Iá.

08:35

A Polícia Civil acabou prendendo 35 pessoas envolvidas nessa operação, que era um golpe que usava IA para criar orações personalizadas para os fiéis que não sabiam que essas orações eram geradas dessa forma. O grupo tinha um pastor, tinha a esposa dele, operava esse call center,  chegou a arrecadar R 3 milhões em um ano e as investigações apontam que esse local funcionava como uma empresa, com meta de ligação, lucros definidos, era um método mesmo para arrancar dinheiro de fiel.

09:05

O valor médio cobrado era 50 reais por uma dessas orações que chegavam customizadas de acordo com o que a pessoa pediu, mas tudo gerado por IA. É um pouco confuso, Porque nesse caso a pessoa recebe uma oração, aí foi gerada por IA, foi gerada por um pastor, óbvio, depende da crença, mas se o pastor é um tambiqueiro desse, que diferença é fazer se fosse ele mesmo fazendo oração, né? O tambique já vai na oração em si. Se ele vendesse orações por 50 reais, ele fosse lá e gravasse,  continuava sendo um problema, mas óbvio,

09:35

que o uso de ar potencializa o golpe que chegou a arrecadar esse absurdo de 3 milhões reais de um ano, como eu comentei. Esses casos todos mostram essa necessidade, essa busca dos humanos por contato com outros humanos. E é nessa carência de conexão entre humanos que a startup Renta Cyber Friend, ou Alug, um amigo cibernético, está apostando. É uma plataforma de vídeo que conecta pessoas que querem companhia com pessoas que estão dispostas a vender o seu tempo.

10:02

para oferecer essa companhia como um serviço. Então, os usuários podem pagar para bater papo com um amigo cibernético, que pode escolher quanto vai cobrar e fica com 80 % da receita. O fundador da empresa diz que a ideia é que a solidão é um problema tão grande, tão crescente, que um ser humano pode voltar a ter valor econômico direto. Meio triste que as pessoas estejam explorando as relações pessoais dessa forma, mas também a pessoa está botando o tempo dela lá, inclusive se a pessoa tem alguma expertise específica.

10:32

tem uma formação acadêmica, o domínio de um idioma que a pessoa quer estudar, pode cobrar mais por isso. Não é a primeira plataforma a fazer isso, eles vão se apresentar no TechCrunch Disrupt 2025 e dizem que já tem 3 milhões de pessoas registradas na base. Como diz o ditado, nada é mais poderoso do que uma ideia cujo seu tempo chegou e vai ver isso, essa plataforma que não tem nada de inédito em termos de conectar pessoas pra conversar.

10:58

talvez esteja chegando num momento tão delicado da sociedade que vá ter sucesso. Isso aí me fez lembrar de plataformas como o ChatRulete. Eu até criei uma versão brasileira na época, o Catapapo, com meu amigo Pedro Garcia, que era só para conectar brasileiros, que era aquela plataforma, você deve lembrar, que você entrava, abria uma janela e você era conectado com uma pessoa aleatória. E aí virava um festival de gente botando piru para fora na câmera e coisas piores, e acabou não avançando tanto, mas o princípio é parecido. As pessoas querem se conectar.

11:25

querem conversar uma com as outras, querem ter trocas. E isso ainda bem, ainda não mudou. E nem deve mudar, Porque essa saturação da vida online já começa a ter reflexos até em quem trabalha com isso.  A Marie Claire fez uma reportagem sobre influenciadoras que estão deixando de ser influenciadoras digitais para voltar para o emprego CLT.

11:48

É um recorte um pouco específico porque existe uma ilusão do que é ser influenciador ou influenciador online como se bastasse você querer ser. Você abrir um canal e aí você vai faturar milhares de reais porque agora você fala sobre determinada coisa. Não, um trabalho,  bastante trabalho você construir audiência, relevância, credibilidade, ao ponto de conseguir vender produtos, serviços e assim faturar. Então muita gente entra nisso achando que vai ganhar um dinheiro e não vai.

12:15

Inclusive a reportagem cita uma pesquisa da Brunch, da UPIX, que diz que entre março de 2024 e março de 2025 a gente saiu de 1 milhão e 200 mil brasileiros que se dizem influenciadores para 2 milhões. Quase que dobrou a quantidade de pessoas que dizem que trabalha com isso, mas a verdade é que as pessoas têm ganhos baixos. Algumas influenciadoras entrevistadas na reportagem disseram que tem meses que ganhavam R mil e meses que ganhavam R

12:42

e que isso era inviável como uma profissão, você não ter uma receita definida e que por isso estavam agora então buscando uma forma mais tradicional de trabalho, CLT, outros empregos, enquanto mantém isso como um trabalho paralelo, uma forma de gerar uma renda extra. Essa é a verdade da maior parte das pessoas que estão tentando ganhar a vida online, mas ao contrário do que muita gente pensou quando leu isso e falou, caramba, e agora esses influenciadores vão se arrebentar, acabou essa era? Não. Quem é muito bom nisso e tem audiência e ganha dinheiro

13:10

continua ganhando bastante dinheiro e isso também não deve mudar porque é um canal de venda, cada vez mais um canal de vendas que está aí estabelecido e funciona muito bem.  E isso ainda está... Tem muito fôlego, muita estrada para funcionar ainda. E outra empresa que também depende do tráfego online para sobreviver, a Wikipédia, diz que as visualizações humanas caíram 8 % em um ano, segundo a Wikimedia Foundation.

13:38

porque a maior parte das pessoas vem lendo sobre os assuntos que estão curiosos, ou que precisam saber,  através dos resumos gerados por AI em plataformas como o Google. Você vai lá, faz uma busca, ou até no chat GPT, em vez de você ir até o Wikipedia e ler o verbatim, você lê aquele resumo, se dá por satisfeito, e aí ninguém visita o Wikipedia e vai diminuindo o volume de pessoas que visitam, e muitos robôs visitando para raspar o conteúdo. Isso é uma conta que não fecha, está virando um problema muito grande para o Wikipedia,

14:08

E essa mudança de comportamento das pessoas aceitando o que está sendo gerado por IA como uma resposta confiável vem num cenário em que um estudo da BBC mostra que 45 % das vezes essas plataformas de IA erram na resposta.  Essa pesquisa da União Europeia de Rádio e Difusão envolveu 22 organizações de mídia pública em 18 países em 14 idiomas e avaliou 3 mil respostas

14:36

de plataformas como o Chat GPT, o Copilot da Microsoft,  o Google Gemini e o Perplexity, em quesitos como precisão, fontes, distinção entre fato e opinião e também o contexto.  E esse resultado mostrou, como eu disse, que 45 % das respostas tinham erros significativos e 81 % das respostas tinham algum tipo de falha. Os principais problemas encontrados foram a falta de fontes adequadas, em 31 % dos casos,

15:03

em precisões graves em 30%, incluindo informações inventadas,  informações desatualizadas.  E entre os modelos, quem mais errou foi o Gemini, que falhou em 76 % das respostas. Depois veio o Copilot com 37%, o ChatGpt com 36 % e o Perplexity com 30%. No melhor dos cenários,  então, em 1 terço das respostas você vai ter erro. Então, muito cuidado ao usar essas plataformas como fonte de qualquer coisa.

15:33

Principalmente se você não conhece o assunto, não conhece o tema e não vai conseguir identificar um erro. Então você precisa, além dessa resposta, ir atrás de uma fonte confiável. Essas respostas por IA pode até te ajudar a guiar, a entender o tema, mas você precisa pesquisar e buscar uma fonte confiável para ter certeza do que você está falando ou você corre o risco de repassar uma informação errada adiante ou até usar em seu trabalho e acabar demitido ou tirando um zero. Pensa aí se vale a pena.

16:03

E para fechar esse bloco sobre o nosso comportamento online,  eu li um artigo no LinkedIn do Thomas Palermo, que é um cara que foi meu editor na Accelerator, uma revista de música eletrônica para onde eu contribui muitas vezes, e ele comentou sobre o lançamento de uma música do Loan, que é um produtor britânico, e ele falou sobre como essa música chegou para ele através de uma playlist recomendada pelo algoritmo. E aí ele lembrou da época da loja de disco, lojas que ele trabalhou,

16:32

e como essas recomendações pessoais eram tão importantes e que as playlists hoje funcionam mais ou menos como era uma loja de disco, só que tem uma diferença, essas playlists são geradas por algoritmos muitas vezes e você não tem uma relação pessoal, não alguém conversando sobre os seus gostos. Só que ele notou uma coisa, essa recomendação estava numa playlist e que essa playlist foi curada por um humano, então o que aconteceu foi, uma recomendação algorítmica de uma playlist pra ele ouvir

17:01

mas de uma playlist que foi criada por um humano onde a primeira música era essa música do Lonely.  Então tem uma intervenção humana, tem aí um cenário em que a gente ainda tem agência sobre as nossas decisões, sobre as nossas escolhas e sobre o que a gente recebe como recomendação.  Nesse aspecto que eu nunca tinha pensado,  as recomendações algorítmicas não são tão nocivas assim. É uma recomendação de uma playlist que a plataforma acredita que você vai gostar.

17:28

Mas de uma outra pessoa que está criando aquela prelística, os seus golos pessoais, com a sua intenção, bom, espero que não tenha criado também seguindo dicas de ar, mas ainda tem um espaço onde essas coisas ainda convivem, onde a gente consegue ter esse sabor humano participando da curadoria, e é nisso que eu aposto, e eu acho que é isso que a gente tem que ficar de olho, buscar,  esperar e exigir dessas plataformas. Os humanos ainda estão no controle.

17:55

Agora é o momento de explorar as transformações causadas pelas inteligências artificiais.

18:06

Computerworld de Mikkel Markander explica como uma recentemente revelou que as AI geram informações inacreditáveis sobre os eventos. E num cenário em que a gente vê o conteúdo sintético se espalhando pela web, em que as plataformas de inteligência artificial geram resumos de notícias não confiáveis, a OpenAI lança o seu próprio navegador, o seu próprio browser, o Atlas.

18:34

O Atlas é um navegador muito parecido com o Chrome, inclusive roda em cima do Chrome, que é a base do Google Chrome, e ele integra o ChatGPT diretamente na navegação. Isso aí permite interações, automação, tudo dentro das próprias páginas. Você não precisa copiar e colar uma coisa no site para levar no ChatGPT para analisar, não, está tudo ali dentro. Por enquanto, está disponível só para o Mac OS, ainda não tem nem para iOS, para o iPhone, muito menos para Windows e Android, está prometido que vem por aí.

19:04

e é um concorrente direto para o Google Chrome, já vem aplicando IA,  moderadamente, mas também para o Comet, da Perplexity e também o Fellow, são navegadores que já têm a IA integrada.  Então o Atlas funciona como esses outros navegadores funcionam, um assistente virtual que vai acompanhando o usuário, interpretando os conteúdos das pastas e oferecendo respostas, resumos, sugestões contextuais.

19:26

que eu imagino seja parecido com aquelas sugestões ou aquelas recomendações que o ChatGPT faz no final de uma busca ou de uma resposta, que pergunta o que mais, né? Você gostaria que eu fizesse isso? Gostaria que eu fizesse aquilo? Não acaba nunca sua interação com o ChatGPT. Tem também o modo Agente, que permite que o ChatGPT execute algumas ações automaticamente, como reservas, compras, preenchimentos de formulários. Tem uma memória de navegação, vai registrando histórico de páginas, de atividades, pra poder reabrir as sessões, continuar umas tarefas onde você parou.

19:56

Tem o cursor mode,  que sobrepõe o JCPT aos textos,  daí você consegue reformular, traduzir, resumir um conteúdo. E também tem algumas extensões, interfaces, que mantêm a compatibilidade com as extensões do Chrome.  A aparência, como eu falei, é bem parecida com a do Chrome, e isso vai facilitando a migração de uma plataforma para o outro. Então serve para você automatizar a tarefa online, tem uma assistência contextual, tem integração de produtividade.

20:21

centralização do uso do chat GPT, A ideia é te amarrar no ecossistema, então você começa a navegar através do ecossistema do OpenAI.  Agora, já tem várias críticas e várias preocupações. Primeiro que esses agentes não funcionam tão bem quanto propagandeado,  Tem muita limitação, tem resposta lenta, erra tarefa simples, coisa que dá muito mais trabalho você fazer através do agente e do você mesmo lá executar.

20:46

Então esse valor agregado acaba ficando meio incerto, Esse monte de chat com abas, você ficar falando com o conteúdo, acaba virando meio supérfluo,  você na parte do tempo não precisa, principalmente se você tiver um site bom. E isso, logicamente, traz vários riscos para o usuário. O principal é de segurança para começar. Injeção de prompt malicioso, ou seja, você pode estar num site, ele pode injetar algum comando para o chat EPT que você não viu, para o Atlas, no caso.

21:14

Isso aí pode estar embutido no site através de imagens, através de textos invisíveis e pode levar o navegador a executar ações que você não pediu e ações perigosas. Ele pode, por exemplo, repassar o contorno de uma página para o modelo de app sem distinguir se o texto é legítimo, é uma instrução hostil. Isso pode acabar facilitando um ataque remoto.

21:36

alguém controlar a sua máquina,  acessando seus dados privados, acessando seus cookies, por exemplo, suas informações de banco, porque como esse agente opera com os mesmos privilégios do usuário que está autenticado, ou seja, você diz para o navegador, olha, esse aqui sou eu e ele pode agir em meu nome, ele pode repassar até as suas senhas para frente através de um ataque malicioso desse.  Então essa integração toda torna um ambiente muito perigoso, ainda mais hoje, porque a gente não tem tanto controle para isso,

22:06

Então o ideal é que tivesse uma confirmação explícita do usuário a cada comando, mas não é assim que está funcionando. E isso traz também questões como eu falei de privacidade, dados sensíveis, porque o Atlas vai processando com tudo em tempo real,  inclusive suas informações pessoais, suas credenciais, seus históricos de navegação, isso pode ir lá para o servidor do OpenAI e lá vai saber para onde. A minha recomendação é não usar o navegador desse, eu nem baixei e nem vou baixar.

22:30

E nem é tanto pelas questões de segurança, pra mim é muito mais pela questão de comportamento. Eu não quero botar IA em mais um aspecto, em mais uma camada minha na internet, porque vai ser mais uma coisa que vai estar sendo delegada pra IA e você prestando menos atenção no que você está fazendo. Então navegador, não, obrigado, estou fora. Mas tá lá, pra quem quiser baixar, já está disponível. Eu não recomendo. E não sou só eu que não está recomendando esse uso amplo de IA.

22:57

Uma carta organizada pelo Future of Life Institute com mais de 800 assinaturas de figuras públicas pede a proibição do desenvolvimento das inteligências artificiais super inteligentes, essa busca por uma inteligência artificial que vai superar a inteligência humana. Entre os signatários estão o Geoffrey Hinton, o padrinho da IA, o Richard Branson, fundador da Virgin.

23:21

o Steve Wozniak, co-fundador da Apple, o Príncipe Harry e a Megah Markle, os músicos Will.i.am e a Grimes, e até umas figuras inesperadas como Steve Bannon, que é um dos grandes articuladores da desinformação da primeira campanha do Trump, lá em 2016. A carta reconhece os potenciais benefícios da IA,  como avanço na saúde, prosperidade, vários pontos desses, mas alerta que essa corrida para criar sistemas que vão ser capazes de superar os humanos

23:50

precisa de pouquinho de regulação, pelo menos gente precisa entender melhor como a gente vai criar mecanismos de segurança para evitar problemas com essa nova invenção. Entre as principais preocupações,  obviamente, o desemprego em massa, a perda de liberdade civis, um estado de vigilância constante e tantas outras questões que a gente vem falando aqui no RESUMIDO há bastante tempo. Outro protesto em relação a IA veio do ator Brian Creston, famoso como Walter White de Breaking Bad.

24:18

que exigiu que a OpenAI retirasse a sua aparência da Sora, que é o app de criação de imagens de ar lançado pela OpenAI.  Comentei sobre esse app no episódio passado também. O Brian Creston enviou uma carta para o sindicato dos atores, que representa mais de 150 mil profissionais, que acionou a OpenAI, que a partir de então resolveu...

24:41

não mais autorizar o uso de figuras públicas, nem de pessoas que já morreram. Já tinha havido o caso do Martin Luther King, o spoiler dele reclamou sobre o uso indevido da imagem. E agora, só quem autorizar a própria imagem vai poder ser usado nessas criações sintéticas, que parece meio óbvio que deveria ser assim. Mas como a gente sabe, essas empresas vão aí, como eles gostam de dizer, se movendo rápido e quebrando coisas, faz o problema e depois lida com ele. Como eles dizem, é melhor pedir desculpa do que pedir licença.

25:10

E cá estamos. Na contramão dessa tendência, uma empresa de roupas íntimas dos Estados Unidos chamada Airy fez um anúncio nas suas redes sociais, no Instagram, em que prometeu que jamais vai usar IA nas suas campanhas publicitárias. Eles assumiram compromissos de que não vão usar corpos nem pessoas geradas por IA, só pessoas reais, sem retoque, sem IA, 100 % real. E essa publicação já é publicação de maior sucesso deles no Instagram.

25:37

enquanto eu gravava esse episódio, já tinha 40 mil curtidas, 500 comentários, e mostra como as pessoas estão com essa preocupação na cabeça e como já está gerando aderência e engajamento quando uma empresa se posiciona contrária à sintetização de tudo.

25:53

o que vai ao encontro do que eu falei no primeiro bloco, as pessoas estão querendo relações pessoais, elas querem ver, inclusive propagandas com pessoas reais. Essa empresa, Aerie, inclusive, em 2014 já tinha feito um compromisso de não retocar as fotos de modelo na sua campanha, com Photoshop na época, e agora dobrou a aposta ao fazer essa promessa de não usar IA. Isso aí deve virar uma tendência, as cada vez mais empresas vão prometer isso.

26:16

e eu acho que vai passar pras plataformas, veículos de mídia e as pessoas, como eu venho falando, vão pagar pelo conteúdo gerado por humanos. É um conteúdo premium. Isso aqui que você tá ouvindo é um conteúdo premium, onde eu sento aqui no meu banquinho e passo aqui sei lá, seis horas editando esse roteiro, sei lá, quanto tempo gravando, depois o Hugo editando, enfim,  todo mundo trabalhando pra gente poder processar essas informações de maneira real e trazer aqui no RESUMIDO opinião e crítica.

26:43

humana baseada na nossa experiência porque é isso que interessa né. Aliás falando na experiência humana um artigo da Fast Company do Enrique Dans falou sobre a questão da liberação do conteúdo erótico pela OpenAI no chat EPT. Falei no episódio passado também agora vai ser possível você gerar conteúdo erótico no chat EPT e o que o Enrique Dans fala é que o problema não é o erotismo em si não é essa questão obviamente não é essa questão.

27:12

Mas ele aponta uma questão muito importante,  que é como esse conteúdo erótico começa a ser industrializado e administrado por algoritmos.  Nisso você vai transformando o desejo em mais um produto que é gerenciado por uma empresa de tecnologia. E isso dá para essas empresas a capacidade de regular o desejo humano. Em vez de libertar, você decide quais as fantasias que são aceitáveis, quais os corpos que podem existir.

27:36

Isso vai virando uma regulação do prazer. Então você pega uma das manifestações mais criativas da psiquia humana e você transforma isso numa forma domesticada.  Esse processo com os algoritmos aprendem o que atrai o usuário, reforça esses padrões. É uma coisa muito mais eficiente de controle do que a censura, porque você captura a atenção, você condiciona o comportamento por meio dessa estimulação constante que você já sabe o que é e vai controlar o usuário. É uma péssima ideia.

28:06

desse ponto de vista achei essa colocação muito boa.  E o Cory Doctorow também comentou sobre a questão do apocalipse do IA, da bolha da IA. Além do fato dessa bolha de ar tá inflando praticamente sete empresas que começam a controlar tudo e que a gente vai ficando cada vez mais dependente delas, inclusive o mercado financeiro, porque se uma dessas empresas falha derruba a bolsa inteira, a preocupação é o que acontece depois que a bolha estourar, obviamente, porque...

28:34

Apesar das promessas de substituição do trabalho humano e tudo mais,  e apesar das empresas que estão tentando fazer isso estarem falhando e voltando ao trabalho humano, porque não existe essa capacidade ainda na IA, o que acontece é que os trabalhos que são extintos, quando a bolha estourar, eles não vão voltar. Então você fica num lugar onde você perde esse trabalho, perde essa função e não sabe muito bem como que você vai substituir isso. Então o Cory Doctorow chama isso de amianto social,  algo que é muito mais barato.

29:02

pra você inserir na infraestrutura, mas que depois fica muito caro pra você remover. Então, uma vez que a IA é introduzida na estrutura de trabalho, de produção e tudo mais, quando ela falhar, você não consegue retirar tão fácil isso que tá ali dentro. Você fica ali tentando resolver um problema de uma coisa que já tá quebrada. É mais complicado do que parece, né? Não é só uma questão dessas empresas darem certo ou não, é uma questão da gente mudar a estrutura da sociedade e é nisso que a gente tem que ficar atento.

29:32

E agora é hora de falar sobre como as Big Tech moldam nosso comportamento.

29:43

Existe uma versão desse bed que tem um motor que inclina e declina.  E obviamente pode acelerar ou se coolar.  E se não funcionar, se a AWS for saída, a app não funciona. E as pessoas estão presas em qualquer temperatura ou inclinadas que eles tinham antes.  A falha do Amazon Web Services semana passada, que tirou vários serviços de doar...

30:08

Trouxe também um exemplo de como é arriscado a gente depender de todos os dados em nuvem pra tudo, inclusive pra dormir. Os usuários da 8Sleep, é uma fabricante de camas inteligentes, essas camas que já existem nos Estados Unidos, são bem famosas, controlam a temperatura,  controlam a hora que você acorda,  monitoram o seu movimento do sono. Várias dessas camas deixaram de funcionar durante a falha.

30:32

e algumas delas que estavam conectadas ficaram travadas na posição. Por exemplo, a posição de ficar sentado e o usuário não conseguia botar ela na forma de ficar deitada para poder dormir. É mais uma das coisas que a gente vai delegando para a tecnologia e depois perde o controle. Você imagina você tentar dormir no poder porque a sua cama está em posição de ficar sentado e você não consegue botar ela reta e não tem um sistema que te ajude a fazer isso manualmente?

30:57

É disso que eu falo quando comento sobre os riscos de delegar tudo para o meia-água para a tecnologia que seja. E ainda quero conseguir deitar a hora que eu quiser. Falando em Amazon, eles estão desenvolvendo também óculos inteligentes para os motoristas de entrega. Parecido com esses da Meta,  feito com o Ariban, só que são óculos específicos para o uso de entregas e o trabalho desempenhado pelos funcionários da Amazon.

31:20

para tornar o processo mais rápido sem ter que usar a mão. Então, ao invés do funcionário ter que alternar entre o celular, o pacote, olhar o ambiente para fazer a entrega, ele usaria esses óculos para escaneares e comendas, para seguir direções passo a passo, o aperto onde ele tem que ir, para registrar, prova de entrega, tudo diretamente no campo de visão. Esse é uso bem funcional da tecnologia, pode facilitar o trabalho de alguém, só que eu imagino que isso vai aumentar também a demanda do funcionário. Ele provavelmente vai ter uma exigência da produtividade dele muito mais alta,

31:50

já que ele tem esse equipamento para ajudar,  então provavelmente vai facilitar o trabalho, mas vai também sufocar a pessoa de coisa para fazer. Falando agora de Instagram, uma pesquisa interna da Meta revelou que os adolescentes que já se sentem insatisfeitos com o próprio corpo são expostos até três vezes mais a conteúdo sobre aparência física e distúrbios alimentares no Instagram. Olha que beleza. Esse estudo foi obtido pela Reuters e analisou como o algoritmo do Instagram...

32:17

amplifica a exibição desses temas que são potencialmente danosos para os usuários mais vulneráveis. O algoritmo funciona assim, ele busca eficiência, ele quer ir onde ele vai ter mais resultados, ele não quer saber qual é o tema nem o que é, ele vai lá entregar onde ele consegue clique. Esse levantamento ouviu mais de mil adolescentes ao longo do ano letivo 2023 e 2024 e cruzou as respostas com o conteúdo exibido no feed durante três meses.

32:44

Entre os 223 jovens que relataram se sentir mal com o corpo depois de usar a plataforma,  10 % das postagens eram ligadas a distúrbios alimentares, contra 3 % entre os demais usuários. E nesse grupo que foi mais afetado, 27 % do conteúdo total tratava de temas maduros, como dor emocional, risco, crueldade, que é o dobro do índice visto entre outros participantes. Os próprios pesquisadores da meta reconheceram que isso aí são falhas graves no sistema de moderação,

33:14

98 % do conteúdo sensível e inadequado para menores não foi detectado pelos filtros automáticos da própria empresa. Essas postagens incluem desde fotos de corpos extremamente magros em roupas íntimas, até vídeos de briga, ilustrações de tristeza. É muito perigoso você deixar um adolescente, um jovem no Instagram sozinho. Aliás, é perigoso para o adulto também, mas os adolescentes estão num momento muito mais delicado, então isso pede muita atenção. Aliás, falando em atenção,

33:42

o Waze agora lançou um novo sistema de alerta de insegurança que avisa sobre áreas de assaltos. Até que o mundo contou e mostra algumas capturas de tela que agora quando um usuário é assaltado e marca no mapa do Waze fica lá marcado o assalto para que outros usuários saibam que estão numa área de risco.  É complicado isso, né? Porque um dos problemas do Waze é que ele indica sempre o caminho mais rápido e às vezes ele pode botar o motorista

34:10

Passando por dentro de uma área sem policiamento e sem que o usuário saiba para onde ele está indo.  Agora, com esse aviso de assalto, pelo menos em tempo errado, você fica sabendo que estão bandidos na área e, de repente, evita ir para lá. O ícone fica ativo por 15 a 30 minutos e pode ser renovado com novos relatos. Então, se tiver tendo um arrastão e um assalto repetido, vai ficar renovando. É isso aí. Já teve o lei seca, que as pessoas usam para saber onde está tendo lei seca no Twitter. Agora vai ter o aviso de assalto no Waze. Que fazem?

34:45

Hora de relaxar com as dicas de ver, ler e ouvir.

34:58

Domingo eu abri a Netflix desde cara com um filme novo da Katherine Bidlow, que eu nem sabia que ia ser lançado.  Ela é a diretora de guerra ao terror e a hora mais escura dos filmassos, e agora ela volta ao tema militar em A House of Dynamite, que acompanha os minutos decisivos entre a detecção de um míssil nuclear rumo aos Estados Unidos e uma possível retaliação.

35:23

Se tem uma coisa que eu admiro nos Estados Unidos,  eu morei lá, fiz intercâmbio, já visitei algumas vezes,  e acho que quem já teve por lá reconhece isso,  é o culto ao processo e a organização,  que algo fantástico para alguém metódico como eu. Eles têm protocolo para tudo, para incêndio, para terremoto, para ataque nuclear, e eles levam cada simulação dessa muito a sério, é como se o desastre fosse certo.  Essa cultura de organização, que aqui no Brasil costuma ir na base do improviso,

35:50

dá para o filme uma tensão muito particular em cada decisão que parece coreografada, cada gesto, cada consequência sendo parte de uma engrenagem funcional. Adorei o filme,  confere, dá um frio na barriga e espero que gente não chegue nessa situação, né?

36:14

Filha do Bob McFerrin,  do hit Don't Worry Be Happy e irmã mais nova do produtor Taylor McFerrin, a Madison McFerrin acaba de lançar Scorpio, seu novo disco,  em que ela segue no caminho entre o soul e o experimental.  Ela ganhou muita visibilidade ao interpretar o hino dos Estados Unidos na campanha da Hillary Clinton em 2016, mas não como eu esperava.  A interpretação foi esculhambada online.

36:41

O episódio acabou virando gatilho pra uma reflexão pública sobre identidade, perfeccionismo, autoconfiança e acabou servindo de interpretação pra faixa Try, que você ouve aí ao fundo, mas que não é do disco novo, essa música é EP You and I, de 2019,  mas recomendo demais,  família muito talentosa e esse musicão aí é um belo aperitivo.  Nesse episódio você ficou sabendo que o app Endless Summer cria fotos de férias falsas.

37:08

que plataformas alugam amigos digitais, que campanhas humanitárias usam imagens sintéticas e que pregadores oferecem prece geradas por IA, que influenciadores abandonam redes sociais e voltam ao CLT, que a IA erra quase metade das notícias e confundem fato com opinião, que a OpenAI lançou um navegador e muito mais.

37:31

Como falei no início do episódio, você gosta do RESUMIDO, recomenda pra mais gente, mas também não deixa de curtir, assinar, seguir, cinco estrelinhas e deixar uma resenha na plataforma que você estiver escutando esse episódio agora. E se você quiser comprovar que ouviu esse episódio até o final,  deixa um comentário com a palavra secreta da semana é: simulação.

37:59

RESUMIDO é produzido e apresentado por mim, Bruno Natal

O roteiro é escrito por mim e pelo Agenor Neto

O Cauê Marques co-edita a newsletter O Futuro Explicado e as redes sociais, que contam com animações do Peri Semmelmann e design do Felipe Araújo

A edição e mixagem é feita pelo Hugo Rocha

A foto da capa é do Jorge Bispo

E o tema original foi composto por Gustavo Silveira

Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!