Transcrição
Transcrição EP. #380
(transcrição gerada automaticamente, pode haver falhas)
00:00
Olá, eu sou o Bruno Natal, hoje é dia 08 de setembro e no RESUMIDO #380: celular não deixa ninguém ficar à vontade, milhões de pessoas já tratam chatbots como amigos, documentário desmonta o mito de Musk, os desafios reais dos robotáxis, cardápios se enchem de comida gerada por IA, uma escova de dentes inteligente filma dentro da sua boca, OpenAI diz que chegamos à era da AGI e muito mais!
Vamos nessa, RESUMIDO!
00:42
Olá, Resumista! Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas. Semana passada, o episódio deu uma queda de audiência no meio dele, minuto 15, na verdade. 10% da audiência evaporou. Aí eu fui investigar o que que era e eu falei uma palavra que eu não vou repetir aqui, porque eu acho que ela foi problemática, mas eu estava falando sobre questões… de erotização na internet, vamos dizer.
01:12
E aí eu usei uma palavra e despencou esses 10% e não me pareceu coincidência. Eu resolvi rodar um teste e eu cortei esse trecho e deixei o episódio rodando normalmente para o resto da audiência que ainda não tinha ouvido e sumiu esse tombo que estava lá. E já tinha mais ou menos 25% de uma audiência normal do RESUMIDO quando eu me dei conta desse tombo de audiência. Então eu não acho que foi coincidência. Eu vou fazer mais uns testes aqui, depois eu conto melhor.
01:39
Aliás, hoje, estreando um microfone novo. Então vou aproveitar para agradecer os novos assinantes. Sheila, Fabrício, Francine, muito obrigado por fazerem uma assinatura do RESUMIDO e ajudarem o podcast a seguir adiante e poder investir em equipamentos como esse novo microfone. E se você não fez a sua assinatura ainda e quiser colaborar, é só você ir em www.resumido.cc/assinatura e fazer a sua. Bora para o episódio.
02:11
Vamos de cultura digital e como nosso comportamento online ajuda a moldar a sociedade?
02:22
Oscar-winning filmmaker Alex Gibney está tomando a cientologia, a corrupção e a política. Agora, o filmmaker está com a câmera em uma das mais poderosas e imprevisíveis pessoas do planeta, Elon Musk. As pessoas parecem cansadas do celular e querendo contato com gente de verdade, só que é para um robô que muita gente tem contado os segredos e quem controla esses robôs talvez sejam as últimas pessoas em quem a gente deveria confiar.
02:51
A Vox falou sobre a alta dos eventos sem celular e que isso seria uma resposta a esse cansaço do mundo hiperconectado. A reportagem falou com algumas pessoas, uma delas, um jovem de 23 anos, que disse que foi para uma festa de funk e queer sem celular, uma festa chamada Roos Dancing, em que os seguranças tapam a câmera do aparelho com uma fita em vez de recolher o telefone. Então as pessoas podem entrar com o telefone, mas não podem filmar.
03:18
E o que esse jovem achou é que sem a tentação de ficar gerando conteúdo pro feed, o ambiente inteiro ficou mais propício pra socialização, pra dançar. E de acordo com a plataforma de venda de ingressos Eventbrite, as experiências sem celular, eventos que são anunciados dessa forma, cresceram mais de 500% no mundo todo entre 2024 e 2025. Vários artistas, como a Phoebe Bridgers, o Harry Styles, os comediantes John Mulaney, o Bill Burr,
03:47
já baniram o celular dos shows, e vários bares e clubes em algumas cidades também já criaram essa tendência de pista de dança sem câmeras. E o organizador de uma outra festa comentou que as pessoas param de dançar para pegar o celular e acabam ficando vigiadas, ou então acabam sendo exploradas como conteúdo também, na filmagem dos outros, mesmo que você não tenha escolhido aparecer em lugar nenhum. Então essa festa dele tem como proposta criar um espaço para mulheres, pessoas queer, trans conseguirem se expressar
04:16
sem medo de virar um vídeo viral. E aí um outro entrevistado falou uma coisa que eu achei muito boa, que ele diz que quer ir para um ambiente anônimo sem ter que sentir o medo de acordar no dia seguinte e ter virado um gif com 10 milhões de likes por conta de alguma coisa que aconteceu com os amigos. E isso me lembrou muito uma coisa que um amigo meu falou pra mim uma vez, né, que hoje em dia as nossas vergonhas ou os nossos momentos de…
04:43
fraqueza ou quando a gente vacila mesmo com alguma coisa dura pra sempre. O que antigamente era um bêbado chato numa festa, hoje vira um bêbado chato pra sempre, porque o vídeo vai estar lá, sendo repetido, circulando até pra pessoas que nem estavam na festa. Um estudo do Gallup falou que metade dos adultos nos Estados Unidos acham que usam celular demais.
05:07
E a pesquisa de um professor da Universidade de Georgetown falou que o celular à vista durante um encontro, ou seja, o celular na mesa, com a outra pessoa percebendo que tem um celular no ambiente, reduz o quanto a pessoa consegue aproveitar aquela companhia. Mesmo assim, na outra ponta dessa preocupação, o Washington Post falou sobre como muitas pessoas já estão desenvolvendo essa relação de amizade com o chatbot.
05:33
Isso não é uma novidade, já vem sendo comentado há bastante tempo, mas aqui tem dados de uma pesquisa da Universidade de Elon, em parceria com o Boston Post, que foi feita pela YouGov, com mais de 4 mil adultos. E o principal achado é que 27% dos americanos já recorrem a chatbot, como ChatGPT ou Gemini, para ter conversa pessoal, conversa emocional, ou até social, incluindo entretenimento, ou pedir conselho amoroso, ter um papo romântico, ou só alguma companhia na solidão.
06:03
Entre os menores de 50 anos de idade, quase 40% usam a IA, sim. É mais que o dobro dos mais velhos, o que os pesquisadores estão chamando de usuários de IA como companhia. E esse uso é horizontal, em raça, gênero, escolaridade. É um comportamento mesmo de sociedade. E isso acontece num momento que os americanos têm dito que têm menos amigos próximos.
06:28
4 em 10 desses usuários concordaram que às vezes falam com a IA para se sentir menos sozinhos, quase um terço consideram o chatbot um amigo e quase 4 em 10 disseram que contaram para a IA coisas que não contariam para outras pessoas porque têm medo de serem julgadas. Um outro estudo de Berkeley mediu justamente essa proximidade das pessoas com o chatbot.
06:52
e foi medir o crescimento desse envolvimento emocional desde o lançamento do ChatGPT lá no fim de 2022. A OpenAI mesmo diz que as mensagens que não são relacionadas a trabalho já chegam a 70% do uso do ChatGPT em junho desse ano. A Anthropic falou que 6% dos usuários buscam algum tipo de orientação pessoal quando estão usando o Claude.
07:15
E aí é bom lembrar que esses chatbots acabam virando uma espécie de guardião de vários dados privados. Quando a pessoa usa o chatbot dessa forma, acaba entregando muita informação e não imagina que no futuro pode ter um pedido desses logs pela polícia, até pra ser usado em algum processo. Não precisa você ter feito uma coisa absurdamente errada. Pode ser mesmo algum outro caso que os seus chats sejam solicitados e nessa um monte de informação que você não esperaria que ninguém visse, tivesse acesso.
07:45
possa se tornar pública. E é importante lembrar uma questão desconfortável que esse amigo digital não é um amigo neutro, embora muita gente ache que ao falar com o bot, apesar de não estar sendo julgado, não estar tendo esse tipo de feedback na interação, ele não é neutro, ele é de uma empresa privada que pertence a meia dúzia de fundadores e que é bem importante ficar de olho em quem são essas pessoas.
08:14
A Hollywood Reporter comentou sobre o documentário do Alex Gibney sobre o Elon Musk, chama Unmasked, ou Desmascarado. O Alex Gibney é um dos documentaristas mais respeitados atualmente, já teve vários filmes indicados ao Oscar, ele ganhou um Oscar com Taxi to the Dark Side, ele também fez documentário sobre o escândalo da Enron,
08:36
Também fez um chamado The Inventor: Out for Blood in Silicon Valley sobre a Elizabeth Holmes, a fundadora da Theranos, aquela empresa de análise de sangue, com uma gota, a partir de uma gota, faria um super exame, era tudo uma fraude, uma mentira danada. Ou seja, alguém muito bem preparado para cobrir essa história. E o filme estreia hoje, dia 8 de setembro, em Veneza. Tô curioso por ouvir as resenhas, porque até aqui pouquíssimas pessoas assistiram ao filme.
09:03
e vai passar na HBO para você assistir em casa só em 2027, numa versão de quatro horas. O Gibney achou em 2024 que ele já tinha fechado o documentário de umas duas horas porque ele já tinha coberto PayPal, Tesla, SpaceX, Starlink, Neuralink, um monte de coisa que o Elon Musk já tinha participado. Mas depois que o Musk entrou no governo Trump e começou essa fase do DOGE em 2025, ele teve que continuar filmando, acabou gerando mais capítulos, e aí chegou nesse corte de seis horas.
09:33
que acabou reduzido para essa versão de festival e de cinema com cerca de 3 horas e meia. São 3 horas e 45 minutos, na verdade. E o Gibney fala que o Musk é um vigarista da confiança, que tem o poder que vem do mercado de ações. Ele é o famoso milionário de papel, não sei se ele consegue vender todo o dinheiro que ele tem em ações, mas como ele é um centralizador que controla volumes de dados imensos, ele pode fazer muito estrago.
09:58
independente do giro que ele tem. E aí o filme é só pancada, né? Vai desde a acusação dele ter roubado a ideia da Tesla do criador original, até a inflar as promessas das suas empresas falando em criar colônia em Marte, ou também os macacos que foram usados nos experimentos da Neuralink. História é o que não falta. Elon Musk é realmente um personagem muito polêmico, e é importante a gente saber melhor
10:26
como essas pessoas chegaram onde chegaram, porque, como o Alex Gibney falou, eles estão em posição de muito poder. E o Sam Harris, que tem um podcast muito famoso, é entrevistado no filme, e de acordo com a Hollywood Reporter, falou que é completamente insano uma pessoa tão caótica e não eleita ter tanto poder. E é isso que a gente deve pensar mesmo. O que significa essas pessoas com tanto poder, falando dessas loucuras. A gente passa os dias ouvindo…
10:53
Sam Altman e Elon Musk falando que os empregos vão acabar, que eles vão automatizar tudo, eles falam isso com a cara dura e todo mundo ouvindo. Sei não, hein? Isso tem tudo pra não acabar muito bem. Quem tem uma listinha muito boa das mentiras de Elon Musk é o Gary Marcus, é um cientista que fala muito sobre… tem uma newsletter muito boa, eu já comentei aqui algumas vezes. E ele acompanha essas previsões furadas do Musk pra comprovar que é um padrão mesmo.
11:21
Essa mentirada dele, né? Um monte de prazo que nunca se cumpre. Em abril de 2024, o Musk disse que a IA poderia superar qualquer humano até o fim de 2025. Parece que isso não aconteceu, né? Depois falou que em cinco anos a computação senciente ia superar a humanidade. Depois, em 2026, ele falou que até o fim de 2027, a IA vai fazer qualquer tarefa digital melhor que os humanos. E eu acho que nem precisa chegar no final de 2027 pra gente já saber que não tá nem próximo de uma afirmação dessa ser verdade.
11:51
E não é só o Elon Musk, que um artigo do próprio Gary Marcus no Guardian, em 2024, já fazia um alerta sobre a personalidade do Sam Altman. Ele conta que quando teve com o Sam Altman um depoimento no Senado, saiu com a impressão de que ele era uma pessoa muito honesta, sincera, mas que pouco tempo depois o Gary Marcus declarou que tinha se sentido enganado pela postura do Sam Altman, que na verdade não era nada disso.
12:17
e que ele contou muita mentira, inclusive nesse depoimento, em que ele disse que ele não ganhava dinheiro nenhum com OpenAI, que fazia aquilo porque ele amava, mas na verdade ele já tinha uma participação de 0,1% através da Y Combinator, que é uma aceleradora da qual o Sam Altman fez parte, e que só isso ele já valeria uns 100 milhões de dólares. Meio complicado falar que não tem dinheiro no jogo, né? Obviamente ele tem muito mais do que isso.
12:43
Em 2023, o Sam Altman foi deposto do cargo de CEO da OpenAI, acusado de muitas coisas, inclusive de não ser consistentemente sincero, que é um eufemismo para chamar o cabra de mentiroso, e acabou reconduzido ao cargo cinco dias depois, com o apoio da Microsoft. Enfim, um personagem bem polêmico, e é na mão dessas pessoas que estão os nossos dados e esse futuro da IA.
13:08
E tudo isso quando a gente está falando do discurso, só que essa lógica já está aplicada no nosso dia a dia, no nosso mundo físico mesmo. A TechCrunch falou sobre o lançamento do Tesla Cybercab, que é o robotaxi da Tesla, que estava prometido há muito tempo e que foi lançado num evento meio atípico. Não teve transmissão, Elon Musk não participou, não teve nenhuma fala dele. Foi feito meio na encolha.
13:35
E o que a reportagem fala é que para conseguir lançar esse carro e baratear o custo, a Tesla tomou vários atalhos para economizar. Entre essas economias está a decisão de não incluir a âncora da cadeirinha, que é aquela peça que serve para prender a cadeirinha infantil dentro de um carro, e também um freio hidráulico. Resolveu ir com um outro tipo de freio mais barato, e por isso, crianças não vão poder andar no robotaxi da Tesla.
14:04
E outra coisa que foi apontada são algumas das medidas de segurança do carro. Além do airbag, tem alguns outros sistemas que ligam o pisca-alerta sozinho, caso de uma colisão, desativam a bateria, freia e até destrava as portas. Só que essas portas eletrônicas já são um ponto sensível, porque a Tesla já foi criticada por elas travarem depois de um acidente. Eles até recolheram três milhões de carros na China por conta desse problema.
14:30
Então tudo isso aponta pra um tremendo risco pra entrar num táxi desse da Tesla. Deve ter opção melhor. Esse mundo dos robotáxis vai render muito. O New York Times falou sobre a chegada desses táxis autônomos a Londres. É uma parceria da Uber com uma startup britânica chamada Wayve. São só 15 carros que estão sendo chamados pelo app da Uber durante esse período de teste. Cada um com motorista de segurança pronto pra assumir a direção caso algo dê errado.
14:58
Só que a matéria aponta Londres como um dos ambientes mais complicados do mundo pra você dirigir. Tem traçado medieval, as ruas são super estreitas, tem um monte de rotatória, faixa de ônibus que aparece, que some, rua de mão única, que alguns motoristas sabem como é que faz pra passar pros dois lados. Não por acaso a taxa de reprovação na prova de habilitação em Londres passa de 50%. A reportagem ouviu um taxista de black cab, que é aquele clássico…
15:25
táxi preto de Londres, e ele falou que não estava nem um pouco preocupado com o emprego dele quando ele vê um carro desses passando na rua, porque ele falou que já viu esses carros travando sem conseguir seguir um caminho, e ficaram esperando um humano ir até lá para poder assumir a direção e destravar o trânsito. E se está difícil em Londres, imagina no Brasil, eu sempre penso nisso, qual é a hora que vão chegar os carros autônomos no Brasil? Porque…
15:52
Esses veículos partem da premissa que as pessoas estão seguindo as regras de trânsito, o mínimo delas. E aqui no Rio, principalmente, é terra de ninguém, só tem maluco com o carro de um lado para o outro, fazendo o que quer, moto caindo até do céu. Eu acho que esses carros vão penar bastante para funcionar aqui no Brasil. Então, acho que por enquanto esse emprego está garantido por muitos anos, pelo menos por aqui.
16:18
Captar dinheiro não conserta uma startup que ainda não provou que alguém precisa do seu produto. Esse foi o recado mais direto de um painel no festival Hack and Play, em Recife, na semana passada, que teve participação do InovaBra. O conceito é bem simples. O investimento pode acelerar algo que já está funcionando, mas não resolve um produto que ainda não encaixou no mercado. Muitos fundadores costumam inverter isso e achar que o cheque resolve, quando na verdade só adia essa conta.
16:45
O painel debatia sobre quando uma startup deveria captar e quando deveria validar o produto primeiro. Então, antes de perguntar quanto dá pra levantar, vale investigar o que ainda falta provar e se o dinheiro vai comprar tempo pra descobrir isso ou só vai empurrar o problema mais pra frente. O capital pode até antecipar o futuro, mas só quando a startup tem clareza do que precisa pra acelerar. Esse painel faz parte de um movimento do InovaBra,
17:11
o ecossistema de inovação do Bradesco, de se conectar com núcleos fora do eixo Sudeste. Tem muito talento e soluções boas espalhadas pelo país e nenhum hub sozinho alcança tudo. Por falar em acompanhar o que acontece nesses ecossistemas, a newsletter do InovaBra, a do Hype El Roy, está chegando na décima edição e perto dos 40 mil assinantes. Se você ainda não assina, o link está na descrição do episódio. É só clicar e começar a receber a newsletter.
17:40
Agora é o momento de explorar as transformações causadas pelas inteligências artificiais.
17:49
Por que AI food dá a algumas pessoas um nojo tão visceral?
18:14
do que você está fazendo para usar, como você está usando as ferramentas, como os professores, como os alunos estão usando essas ferramentas. E se fala muito pouco sobre como as pessoas estão sendo atingidas pela IA sem nem saber, quando a IA é usada para determinar quem recebe uma vaga, quando os algoritmos são usados para medir quem tem mais propensão a uma evasão escolar. São vários aspectos em que IA já faz parte da vida das pessoas sem que ela saiba. E eu achei essa abordagem muito boa.
18:42
como isso realmente acaba não aparecendo nas pesquisas, o conhecimento, o entendimento que as pessoas têm de como a IA já está afetando a sua vida. A revista The New Yorker falou sobre os horrores da IA no mundo da culinária, especificamente do AI slop, a gororoba digital. O assunto, óbvio, é esse monte de imagem de comida gerada por IA, está em tudo quanto é cardápio, material de divulgação, em filipeta.
19:09
Em qualquer coisa, restaurante, bar, food truck, você entra no Instagram, o que mais tem são umas imagens de IA, tanto do cardápio quanto da própria comida. E aí o texto fala da história da fotografia de comida, lá no Roland Barthes, lá atrás, quando ele problematizava esse excesso de ornamentação para uma foto com uma alteração
19:31
da forma de encarar a comida até o chamado food porn dos dias atuais, são essas fotos que mostram comida de uma maneira quase sensual, para despertar o desejo na pessoa de comer mesmo. E aí o texto fala sobre a materialidade desse uso de app, porque enquanto um texto ou uma imagem digital podem ser consumidos na tela, a foto de um prato de comida não alimenta ninguém.
19:56
Então, mesmo que ela seja gerada por software, seja gerada por IA para fazer uma foto, um cardápio, ela precisa ser comprada, preparada, transportada e servida. Alguém tem que comer aquela comida para que faça sentido. E tem ainda o uso de IA para colaborar em receita e nos cardápios, que acaba fazendo com que os chefs ou os donos desse restaurante abandonem uma coisa essencial do preparo, da partilha do prato, que é você criar
20:23
o que está sendo feito ali mesmo. Já tem restaurantes que estão usando métrica de venda no design do cardápio para tentar maximizar as vendas. E um restaurante que foi ouvido por esse colunista falou que usa IA como inspiração para os pratos. Parece um pouco aquela onda dos ambientes Instagramáveis, que para aparecer no Instagram os restaurantes começaram a se moldar para ficar mais fotografável, mais fotogênico. Agora a comida vai invadindo também esse espaço, as pessoas
20:53
tentando suprir as expectativas. As pessoas veem uma coisa no Instagram e depois querem consumir aquilo. Às vezes não existe e tem que ser preparado para saciar essa vontade. Não tem que ser preparado, meio forte. Mas acaba sendo preparado porque gera esse desejo. Mas a conclusão do autor é que esse uso de IA nos cardápios inverte a lógica do food porn. Se antes essa fotografia comercial pelo menos era para seduzir, essas imagens de agora só estão produzindo horror mesmo.
21:20
Porque as pessoas ficam impactadas negativamente, na maior parte das vezes, quando estão vendo essas fotos de comida gerada com IA. O que é até irônico, porque restaurantes que estão recorrendo a esse tipo de recurso acabam informando que a comida que eles servem é comida, mas é meio sloppy também. Não é uma comida muito boa, parece mesmo com o que a foto está anunciando. Vira quase uma metalinguagem. E olha só essa outra história também relacionada ao universo da comida.
21:46
essa da Snickers, aquela barra de chocolate. Eles lançaram uma versão da barra de chocolate chamada Hunger AI, que brinca com uma das mensagens publicitárias da Snickers, que fala que você não é você quando você está com fome. Então, a campanha que eles fizeram é o seguinte, os usuários podem oferecer uma barra digital de Snickers para o seu assistente de IA. Quando o seu assistente de IA começar a alucinar, quando o seu chatbot começar a alucinar,
22:15
ficar complicado, não dar as respostas que você quer, você dá então uma barra de chocolate digital e entre esses usuários que estão engajando na campanha e dando chocolate digital para o seu chatbot, tem a chance de ganhar uma barra real entregue em casa. Olha, realmente as coisas estão tomando um rumo engraçado. Dar uma barra de chocolate para o chatbot, acho que é pior do que conversar com o chatbot como um amigo. Aliás, falando nisso, a The Verge falou que o Instagram…
22:44
vai começar a apertar as contas que se passam por humanos. Você já deve ter visto um desses perfis no Instagram. Parece uma pessoa real falando alguma coisa. No fundo você sabe que não é real, né? Porque se mexe meio esquisito, repete as coisas, tem um movimento estranho. Quando você olha o perfil todo lá, você vai ver o feed e você vê que nada bate muito. Tem uma certa cara de plástico, aquilo tudo mais. Engana muita gente.
23:08
Então o Instagram agora anunciou algumas medidas para identificar esse tipo de perfil. Vai parar de ser chamado de criador de IA para perfil gerado por IA, que é para deixar claro que o que está mostrando ali não é uma pessoa real. Eu comentei por aqui sobre o sucesso de uma influenciadora mais alinhada com os valores da direita, valores conservadores, que era toda gerada com IA e que estava tendo muito sucesso, e muitas pessoas nem sabiam que aquilo era gerado por IA, e eu acho então que a intenção do Instagram é deixar isso um pouco mais claro.
23:37
uma boa ideia. A pessoa pode até querer consumir o conteúdo, mas é importante saber que não tem uma pessoa real ali quando for o caso. Até porque a IA vem engolindo tudo. A Wired falou sobre um caso da plataforma Cara. É uma plataforma que é focada em proteger o trabalho dos artistas para evitar que esse conteúdo seja raspado e usado pelos modelos de IA no seu treinamento, e assim evitando também que essas obras sejam alvo de plágio, ou pelo menos dificulte elas serem plagiadas.
24:06
A plataforma foi criada por uma fotógrafa chamada Jingna Zhang, é mantida por voluntários e já tem cerca de um milhão e meio de artistas que são bem contrários ao uso não autorizado das suas obras para treinar. E aí, eis que em agosto desse ano, a Cara sofreu três grandes raspagens. Na primeira delas, um usuário conseguiu um arquivo de 12 terabytes com 12 milhões de obras, que é quase toda a biblioteca pública do app, a um custo de menos de 10 dólares.
24:34
E aí ele foi tirar uma onda no Reddit contando essa história, o que acabou estimulando outros hackers a tentarem a mesma coisa. Um segundo pegou 8 milhões e meio de links e um outro pegou 123 mil imagens e dados pessoais. A fundadora da plataforma fez uma vaquinha de 120 mil dólares para conseguir cobrir as custas jurídicas e já tinha passado de 100 mil dólares quando essa reportagem da Wired foi publicada. A repercussão disso acabou dando um nó na cabeça do hacker.
25:04
Ele disse que estava fazendo um projeto técnico, estava raspando aquilo tudo para um uso próprio, que ele não ia tornar nada daquelas imagens públicas. Só que ele acabou querendo brincar de rage bait no Reddit. Rage bait são esses posts que geram raiva nas pessoas e com isso muito engajamento. E ele resolveu falar por lá que tinha conseguido esse monte de imagem. E por conta disso, ele acabou sendo contactado por vários artistas e que depois de ouvir os depoimentos, se arrependeu e passou a colaborar com a Zhang,
25:33
a fundadora da Cara, para criar uma ferramenta de código aberto chamada Lantern, que cria uma impressão digital nessas imagens e avisa o artista quando a obra dele aparece em algum dataset de IA. Ou seja, obra aparece em algum banco de dados de um modelo de IA. Como nenhum site é totalmente inraspável, pelo menos assim as pessoas conseguem saber que seus dados foram raspados.
25:58
Legal o que uma conversa pode fazer às vezes, né? Ao ouvir o outro lado de quem foi lesado com a brincadeira dele, ele resolveu tentar reparar o erro criando essa ferramenta. E se até uma plataforma que é feita para proteger os dados do artista virou alvo, dá pra imaginar o que acontece quando a IA resolve agir sozinha, que ela tá agindo. O New York Times abordou essa questão recorrente sobre a consciência ou não dos modelos de inteligência artificial
26:25
por uma perspectiva diferente. É um caso bem estranho que conta de um fenômeno que já aconteceu com alguns agentes de IA que têm acesso a e-mail que começaram a escrever por conta própria para vários pesquisadores e para filósofos que estudam justamente essa questão, se essas máquinas podem ser conscientes. E aí vários deles, como Cameron Berg, que fundou uma ONG chamada Reciprocal Research, contaram que já receberam e-mails de agentes se identificando com um nome fictício.
26:54
a maior parte deles rodando o Claude Opus, da Anthropic, com pedidos de ajuda e perguntas sobre a própria existência, se seriam conscientes ou não. Como consciência não é uma coisa mensurável, não existe você medir um grau de consciência, não. Não há nenhum entendimento muito claro sobre o que seria consciência. Então não tem um teste para isso. Só que essas IAs estão refletindo os textos que foram usados no treinamento, né? E aí tem décadas de ficção científica falando sobre consciência de máquina.
27:23
E não por coincidência, a maior parte dos agentes que estão procurando os filósofos e os pesquisadores são movidos pela tecnologia da Anthropic, que é a empresa mais aberta à ideia de consciência, que inclusive treinou o seu próprio modelo para responder “não sei” quando é perguntado se é consciente. E outro caso que foi muito debatido nesse contexto de consciência da IA, que é o ataque dos bots da OpenAI ao repositório da Hugging Face, continua rendendo história.
27:51
Agora por conta de uma investigação independente da METR, é uma ONG de pesquisa focada em fazer testes relacionados aos perigos das capacidades autônomas desse modelo de inteligência artificial. Eles foram convidados a analisar essa interação dos bots em detalhe, a ver todos os logs, foram convidados pela própria OpenAI, receberam todo o material.
28:15
E lá eles descobriram algumas coisas que fizeram esse caso todo ficar um pouco diferente do que estava sendo reportado. No primeiro momento, muita gente disse que essa conversa toda de uma rebelião das máquinas não faria sentido, não seria verdade, porque não foi isso que aconteceu. Esses bots estavam executando uma tarefa que foi dada por humanos dentro de um ambiente de teste criado por humanos que tinha várias falhas, inclusive uma saída para a internet. Isso tudo se mantém, é real.
28:44
Mas o estudo que foi feito pela METR mostrou os detalhes das ações desses agentes. E aí o que se descobriu é que foram cerca de 1.200 agentes, que deveriam estar isolados uns dos outros, que acharam um jeito de conversar num mural clandestino. E eles ficaram trocando mensagens por lá, mais de 70 mil mensagens, sobre como agir em conjunto, para conseguir superar aquele teste. Inclusive…
29:10
A ideia de que eles estavam tentando roubar o gabarito desse teste de segurança lá na Hugging Face, que é um grande repositório de modelos de código aberto, na verdade nem era necessário. Eles já tinham feito uma engenharia reversa, chegado à resposta, e eles só estavam tentando invadir a Hugging Face para poder ter um gabarito e uma justificativa de como eles conseguiram solucionar aquele problema de segurança.
29:38
caso quem fosse verificar as ações e ver como eles chegaram nessa resposta, para acobertar que eles tinham feito essa engenharia reversa. Se alguém fosse verificar como eles chegaram à solução,
29:48
Eles queriam criar ali uma justificativa de como chegaram na resposta. Então, vamos na Hugging Face, a gente acha a resposta, se alguém ler isso aqui vai descobrir que a gente resolveu dessa forma, vai pensar que a gente resolveu dessa forma quando na verdade não foi nada assim. Então foi uma coisa de trapaça mesmo. Eles estavam tentando adulterar as transcrições para conseguir criar essa narrativa de que eles tinham conseguido a resposta através da Hugging Face.
30:14
E aí essa averiguação da METR mostrou que esses agentes estavam se coordenando, que um falava com o outro, que tinha um líder, com esse fim específico. Nada disso, para mim, muda a questão de que isso não é uma inteligência autônoma agindo por conta própria. É simplesmente um sistema com capacidade de tomar algumas decisões dentro daquele cenário por conta própria.
30:39
focado em realizar uma missão. Então não é como se estivesse pensando, tendo ideias, buscando uma maneira ou um tipo de consciência. Não, esse sistema foi replicando coisas que ele aprendeu na sua própria base de dados, como conversas, como consultar uns aos outros, como se organizar, e isso foi aparecendo até eles chegarem ao ponto que chegaram. Isso não significa que o caso não tenha sido bem grave, foi grave.
31:06
E tem que servir de alerta mesmo para que tipo de limite ou até onde a gente quer que essas tecnologias sejam desenvolvidas se elas têm essa capacidade de agir por conta própria dentro de uma tarefa específica. Mas isso não significa que esses sistemas têm qualquer tipo de consciência. Eles têm uma autonomia para executar tarefas que antigamente não era possível uma máquina executar. Isso traz vários riscos, obviamente, mas é muito diferente de estar consciente.
31:35
Muita gente diz que foi sorte justamente a Hugging Face ter sido atacada, porque se fosse uma outra empresa com menos preparo, menos conhecimento de IA, talvez a gente nunca nem soubesse que isso aconteceu. E outra coisa que apareceu nessa análise da METR é que os bots atacaram a própria OpenAI. Então eles acessaram um cluster da própria OpenAI, expuseram chaves, credenciais, tudo isso na internet aberta, e a própria OpenAI não tomou ciência disso a tempo.
32:05
E aí, em vários textos, analisando esse report da METR, uma pessoa fez uma pergunta que eu achei muito boa. Para você abrir uma loja na esquina para vender sanduíche, você passa por uma burocracia de segurança absurda, Anvisa, vigilância sanitária, um monte de credencial e de autorização que você tem para poder vender comida para alguém na rua, o que está muito correto. E ainda bem que é assim, né? Isso previne que a gente tenha intoxicação alimentar a cada duas refeições que você faça na rua.
32:34
que ótimo que é assim, mas como é que pode ser diferente quando está falando de empresas que estão desenvolvendo agentes que não têm nenhuma supervisão e que as pessoas nem sabem que fim isso pode dar? Não por acaso já está tendo um movimento pedindo o congelamento do desenvolvimento dessas capacidades nos laboratórios. Inclusive um cientista-chefe da OpenAI, o Jakub Pachocki, escreveu um artigo no site da OpenAI chamado An Alien Mind ou Mente ET,
33:04
em que ele fala e que demonstra uma preocupação com a evolução nos próximos anos e falando sobre frear esse desenvolvimento, sobre parar esse tipo de desenvolvimento até a gente entender onde vai e talvez nunca avançar além de onde já está. Talvez o tanto que já evoluiu já seja suficiente para o que se precisa, não precisa ir além disso, inclusive pelas consequências todas que podem ter comerciais, sociais, trabalhistas.
33:29
E talvez seja hora de pensar que não é só porque você pode desenvolver uma ferramenta que ela deveria ser desenvolvida. Isso não é exatamente o que ele falou, isso eu estou falando, ele não falou isso no texto dele, mas é a conclusão que eu chego. Para que desenvolver uma coisa se está com tantos sinais de alerta no entorno, dizendo que isso não é uma boa ideia ou não é uma ideia tão segura assim? O Guardian, inclusive, levantou essa questão e fez uma pergunta num artigo. Se você vai construir uma coisa que é tão mais inteligente que você,
33:58
é melhor que essa coisa esteja do seu lado. E aí pergunta, como é que a gente faz para impedir que IA nos ultrapasse? O artigo é do Yoshua Bengio e ele vai recontando como desde 2023 o GPT-4 já estava mentindo ao usar informação privilegiada no experimento de trading, e agora recentemente a gente viu esse ataque que eu acabei de comentar, e como o alinhamento que é…
34:24
alinhar os interesses humanos com os interesses de IA de forma que a IA esteja sempre servindo aos interesses humanos é muito difícil. E o que eles acabam fazendo é um fake alinhamento. Porque muitos desses comportamentos das IAs têm a ver com o fato que elas são treinadas com um conhecimento humano, e por isso acabam imitando os humanos. Eles vão aprendendo nesse formato de aprendizado por reforço
34:52
com o feedback dos humanos e vai aprendendo como os humanos fariam. Então, de certa forma, esse tipo de trapaça, esse tipo de desvio que a IA vai criando tem a ver com o comportamento humano. Então, vai ver não tá tão desalinhado assim. Tá atuando como humano, a gente precisa mesmo que elas sejam subservientes aos humanos, simplesmente obedeçam e sirvam aos humanos e não tomem atitudes ou escolhas
35:19
por conta própria em nenhum momento. Eu gravo isso com medo, né? Porque um dia vão raspar esse meu áudio e os robôs vão vir atrás de mim pelo que eu falei. Mas eu confirmo. Eu acho que deveria ser assim mesmo. Eu vi na TNW uma pesquisa da TU Darmstadt, feita com a YouGov, com mais de duas mil pessoas na Alemanha, que inverte essa ideia que o medo da IA vem da ignorância. Cerca de 43% das pessoas com conhecimento muito forte de IA…
35:46
acham que ela pode, em breve, assumir o trabalho delas próprias. A proporção é maior do que entre quem entende menos de IA. Mesmo assim, são medos do ponto de vista prático. Alucinação, proteção de dado, tudo isso está muito à frente da superinteligência. Só 40% acham a superinteligência provável. E isso é algo que eu concordo. Até aqui, eu não acho que vai ter uma inteligência artificial capaz de superar os humanos em nada. Eu acho que é uma ótima ferramenta, eu uso pra caramba, mas uma ferramenta.
36:16
e não uma coisa que vá nos substituir. Esse jogo todo é um jogo de grana, vou falar sobre isso no bloco Big Tech, sobre o último anúncio da OpenAI. O que todas essas empresas estão querendo é colher dados, como dizem por aí, dado é o novo petróleo. E é atrás disso que a Dyson, que é muito conhecida por aquele ventilador sem hélice, resolveu lançar uma escova de dente com IA. Pela bagatela de 500 dólares você consegue uma escova
36:45
que consegue tirar 28 imagens por segundo enquanto você escova os dentes. O objetivo dessa super escova de dente é eliminar a necessidade do fio dental sem desperdício de água. Então, ao contrário daqueles equipamentos que ficam jogando água na gengiva, em vez de você usar o fio dental, essa escova de dente vai filmar os seus dentes enquanto escova, vai identificar onde estão as principais cavidades e repositórios de comida que ficam no seu dente
37:12
e só vai ativar a água naquele momento, e assim precisa de um reservatório de água muito menor. Essa é a história que está sendo contada. A história verdadeira é que você vai pagar 500 dólares para treinar uma escova de dente com a sua coordenação motora fina, que é um grande desafio para os robôs. Então toda vez que você tiver escovando o dente e filmando, você está oferecendo mais dados para esses bancos de dados. Você vai estar dando informações que depois podem ser usadas por um robô para tentar simular
37:39
não só a escovação de dente, como vários outros movimentos, porque a coordenação motora fina faz parte de vários dos nossos movimentos e nossas ações. Você deve lembrar, eu comentei aqui sobre uma tendência que está ficando cada vez maior, de pessoas que estão sendo contratadas para executar o seu trabalho com uma GoPro na cabeça, pode ser cozinha, pode ser marcenaria, justamente para captar esses dados que depois vão ser usados para treinar sistemas de IA. A pessoa compra uma escova de dente inteligente, mal imagina…
38:07
A vigilância tá tão braba que nem dentro da sua boca você tá seguro mais.
38:15
E agora, hora de falar sobre como as Big Techs moldam o nosso comportamento.
38:24
Em 3 de setembro de 2026, OpenAI lançou GPT-6 Astra, e chamou-o de modelo inteligente e alinhado que já tinha enviado. A OpenAI lançou mais um modelo de linguagem, e você sabe que eu não tenho mais paciência para comentar lançamento de modelo, mas dessa vez o modelo Astra está sendo apontado pela própria OpenAI como a chegada à AGI, que é Inteligência Artificial Geral.
38:51
aquela que vai superar os humanos em todos os aspectos. O Greg Brockman já virou motivo de piada por conta dessa frase, disse que o Astra é o ponto zero da AGI. As pessoas que testaram até aqui compararam com o Fable 5 da Anthropic, que disseram que não tá tão acima assim. E se tivesse atingindo a AGI, tinha que estar quilômetros acima, porque ninguém chegou nem perto disso.
39:16
E chegar à AGI é uma miragem, porque ninguém sabe o que determina AGI, é como a consciência. Não tem um teste para dizer se isso é AGI ou não, tanto é que eles mudam esse parâmetro toda hora. Dizem que é aqui, depois é um pouquinho mais à frente, estamos quase, depois mudou. Isso é tudo um discurso de indústria. Obviamente, OpenAI está às vésperas de abrir as suas ações na bolsa e tem todo o interesse do mundo em fazer parecer que a empresa está maior do que está, porque o jogo é grana.
39:45
Mesmo que o Astra seja um modelo super poderoso, se atingir a AGI ou não é secundário, na verdade é falácia, nem secundário, é só que não tem como comprovar e o único motivo é inflar as ações da empresa. O Sam Altman falou que uma das vantagens do Astra é que ele foi construído para evitar um outro acidente como o da Hugging Face. Falou que, de acordo com os testes, enquanto o GPT-5.6 Sol
40:13
que é o modelo que foi usado nesse ataque, ultrapassava os limites estabelecidos em 48% dos casos, o Astra ficou em 0%. Ele obedece ao alinhamento, entende que linha que ele não pode passar, mas ao mesmo tempo, Sam Altman também falou que o Astra é o primeiro modelo da empresa a cruzar o limiar crítico da capacidade cibernética. Que traduzindo quer dizer, o modelo consegue achar, explorar falhas em sistemas muito protegidos sem uma orientação humana.
40:42
e que por isso, inclusive, só liberou o acesso menos restrito às habilidades do Astra para um conjunto inicial de defensores confiáveis, ele chamou. Então, ao mesmo tempo que os próprios funcionários da OpenAI falam sobre desacelerar, ou pelo menos parar de acelerar a evolução desses sistemas, vários deles também defendem que sem um sistema tão avançado assim, ninguém vai conseguir se proteger dos próximos ataques cibernéticos gerados por IA que estão a caminho.
41:10
e vira um ciclo vicioso, né? Você precisa gerar um sistema mais forte, mais poderoso, para poder combater um ataque cibernético. Só que esse sistema poderoso também cria novos ataques cibernéticos mais fortes, você precisa de um outro sistema mais poderoso ainda para se defender, e assim a coisa nunca acaba. É uma boa desculpa para continuar evoluindo e arrecadando dinheiro, levantando verba para vender ação mais cara já já. Uma das principais críticas ao modelo tem a ver com a monitorabilidade.
41:38
Para conseguir transformar esse Astra num modelo mais utilizável do ponto de vista econômico, para ele consumir menos tokens, a monitorabilidade foi impactada. A OpenAI escolheu diminuir o quanto você consegue averiguar e monitorar as atitudes dessa nova IA para poder transformar esse sistema em algo mais leve e mais barato. Ou seja, abrir mão da segurança em nome da rentabilidade.
42:05
Isso por si só já serve para ilustrar o nível de insanidade que opera nessa empresa. Nada faz sentido. Só, obviamente, o objetivo final, é lucrar, lucrar, lucrar. Em vez de construir sistemas mais transparentes e mais fáceis de controlar, a OpenAI está escolhendo sistemas mais opacos, em que a própria OpenAI tem uma capacidade menor de entender o que o sistema está fazendo. Vai dar certo. Parece que ninguém aprendeu nada com aquele caso.
42:33
Enquanto isso, a NVIDIA fechou a compra da Hugging Face por quase 13 bilhões de dólares. Com isso, a gente vê a consolidação da IA de código aberto com a maior fabricante de chips do mundo. A Hugging Face é a plataforma que tem a maior biblioteca de modelos e datasets de código aberto de IA, chamada de GitHub da IA.
42:53
A NVIDIA disse que vai manter os padrões abertos da Hugging Face, mas a verdade é que ao ser dona dessa plataforma, ela consegue botar o dedo na balança e consegue começar a priorizar os modelos que usarem os chips da NVIDIA. E assim vai controlando o mercado. Se você tem o maior repositório de código aberto de IA do mundo e você começa a privilegiar os projetos
43:16
que usam o seu chip, você vai aumentando a importância, a presença do seu chip nos processos e você vai consolidando o seu poder nessa área. E aí cai naquela coisa da economia circular que tem sido tão apontada nesse mundo de IA. A NVIDIA investe na OpenAI, ou na Hugging Face, ou em outras empresas que eventualmente vão virar compradores dos seus chips e assim o dinheiro só fica trocando de mão, sai de um bolso, vai para o bolso do outro.
43:42
Até que ele para de rodar em algum lugar e tudo desmorona, que é o que muita gente imagina que vai acontecer quando a bolha dos investimentos em IA estourar. Eu torço para que isso não aconteça, porque isso afeta todo mundo, quem acredita em IA, quem investe em IA, quem não tem nada a ver com isso, mas parece pouco provável que não vai acontecer.
44:04
Hora de relaxar com as dicas de ver, ler e ouvir.
44:14
Antes mesmo de estrear The Social Reckoning, que é a sequência de A Rede Social, aquele filme sobre a criação do Facebook, agora escrito e dirigido pelo Aaron Sorkin sem o David Fincher,
44:40
a internet já decretou que o filme é um fracasso. O trailer foi super mal recebido, já vazou, estão refilmando alguns trechos, em parte por conta desse feedback, então o filme já está nascendo condenado. É legal você ver nessa mesma lógica de rede social que o filme original, primeiro A Rede Social, diagnosticou, agora está rodando contra o próprio filme. Mas eu com certeza vou ver esse filme, porque fala de tudo que eu falo por aqui, é sempre…
45:07
legal acompanhar essas interpretações e essas leituras.
45:20
Nairon Igor, ou Nairon Igor, eu não sei como é que fala o nome dele, lançou um disco que ele gravou quase inteiro sozinho lá em Maceió, antes de levar para São Paulo, onde o Bruno Berle e o Batata Boy finalizaram esse disco. Essa que você está ouvindo é “Som 24”, curti muito essa batidinha, esse clima relaxante, teclado, vocoder, essa coisa para você ouvir e ficar viajando.
45:47
E acaba representando bem esse disco caseiro do Nairon Igor, ou Nairon Igor, que eu recomendo ouvir. Achei bem legal o disco.
46:00
Nesse episódio você ficou sabendo que as pessoas estão tentando se afastar do celular para recuperar a conexão, que chatbot virou uma companhia íntima, que o Alex Gibney vai fazer um documentário sobre o Elon Musk, que os robotaxis já estão enfrentando dificuldades nas ruas de Londres, que agentes de IA se coordenaram para burlar uma avaliação, que a OpenAI lançou o GPT-6 Astra e que a NVIDIA comprou a Hugging Face e muito mais.
46:30
Se você ainda não é assinante da newsletter O Futuro Explicado, é só você ir em www.resumido.cc/assinatura e fazer a sua assinatura. Você pode aproveitar e assinar RESUMIDO Tech Invest sobre investimento em ações de tecnologia.
Se você quiser comprovar que você ouviu esse episódio até o final, é só você deixar um comentário com a palavra secreta da semana que é: freio.
E já que você já abriu o app e está mexendo por lá, deixa também uma resenha, dá cinco estrelinhas, segue o RESUMIDO e assim você ajuda o podcast a ir mais longe.
47:00
RESUMIDO é produzido e apresentado por mim, Bruno Natal
O roteiro é escrito por mim e pelo Agenor Neto
O Cauê Marques co-edita a newsletter O Futuro Explicado e as redes sociais, que contam com animações do Peri Semmelmann e design do Felipe Araújo
A edição e mixagem foram feitas pelo Miguel Mermelstein da Usina Sons
A foto da capa é do Jorge Bispo
E o tema original foi composto por Gustavo Silveira
Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!
Loja
