Internet vintage / IA não pensa / Robôs hackeados

Transcrição EP. #286

Olá, eu sou o Bruno Natal, hoje é dia 21 de outubro e no RESUMIDO número 286: estamos perdendo a memória da internet, as IAs não são tão inteligentes quanto parecem, robôs hackeados e assediadores, o golpe dos coaches, a volta da energia nuclear, trabalhadores remotos infiltrados, sua TV está te mostra anúncios e muito mais!

Vamos nessa, RESUMIDO!

Como pai, sempre me preocupo com a quantidade de tempo que meu filho passa online. Conversar sobre isso é essencial, mas não é fácil controlar tudo e uma ajuda extra é sempre bem vinda. Foi assim que conheci o Qustodio, uma ferramenta de controle parental completa para celular e desktop que me permite, por exemplo, estabelecer horários para bloquear jogos e até redes sociais, enquanto deixar as ligações ou o WhatsApp liberados para emergências. Essa flexibilidade me deu mais tranquilidade. Se você também busca uma solução assim, acesse resumido.cc/qustodio, é Q U S T O D I O e use o código RESUMIDO para ganhar 10% de desconto na assinatura. Só para os ouvintes de RESUMIDO: resumido.cc/qustodio

INTRO

Olá RESUMISTA!
Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas.

Como velho falando no grupo de WhatsApp do podcast, vem algumas mudanças no RESUMIDO por aí. Depois de lançar a newsletter O Futuro Explicado e começado a publicar notícias no site resumido.cc, também vou estrear o RESUMIDO Tech Report, um relatório com as principais notícias e tendências do mundo tech do mês, como sempre, bem RESUMIDO, para economizar o seu tempo. Se quiser conhecer, vai ter um link para baixar a primeira edição na edição dessa semana da newsletter O Futuro Explicado. Pra receber o email direto no seu inbox, é só se inscrever no www.resumido.cc/newsletter

CULTURA DIGITAL

Vamos de Cultura Digital e como nosso comportamento online ajuda a moldar a sociedade.A internet muda tão rápido que as vezes é parte nos perdemos em tantas novidades. Por isso é importante não perder de vista o caminho que nos trouxe até aqui. Essa semana, alguns acontecimentos me fez lembrar de parte dessa história.

Ward Christensen, pioneiro da comunicação digital, morreu aos 78 anos. Foi ele e Randy Suess que criaram o primeiro sistema de quadro de avisos por computador, o Bulletin Board System, também conhecido como BBS, em 1978.  

Numa era pré www, as BBS conectavam computadores via telefone e foram muito populares nos anos 80 e 90 entre usuários que podiam subir e descer dados, ler notícias, trocar mensagens em fóruns, participassem de chats e até jogassem online. 

Como já contei algumas vezes, minha mãe é médica pesquisadora e tive acesso a BBS em casa desde 1992. Quando falo que estou aqui desde que isso tudo era mato, não é só maneira de dizer. 

A internet aposentou as BBS e de lá pra cá a quantidade de conhecimento disponível online cresceu exponencialmente. Mesmo assim, apesar de acharmos que tudo está são e salvo na nuvem, nossa memória digital e forma que guardamos as informações criadas e compartilhada online, não tem vivido seus melhores momentos nas últimas semanas. 

O Internet Archive, uma a organização sem fins lucrativos que preserva nossa memória digital e essencialmente arquiva a web, enfrentou uma série de desafios. De acordo com a Columbia Journalism Review, o repositório, que armazena cerca de um bilhão de URLs por dia, sofreu ataques cibernéticos que o fizeram ficar offline e comprometeram dados de milhões de usuários.

A situação é ainda mais preocupante se considerarmos que 25% das páginas publicadas entre 2013 e 2023 já não estão mais acessíveis, o que mostra como o trabalho de preservação do Internet Archive é importante. 

Mesmo com todas as facilidades de se arquivar tudo digitalmente, a impressão que tenho é que num futuro não muito distante, muitos artigos e notícias importantes, e até fotos pessoais, vão se perder pra sempre, gerando um buraco de informação para pesquisadores do futuro. Apesar de não atualizar quase nunca, até hoje mantenho o URBe e seus 20 anos de conteúdo online, com custos, para que possa ser acessado por mim ou por outros. Muitos sites não fizeram isso e muita coisa valiosa sumiu pra sempre.

Nessa pegada nostálgica sobre os primórdios da web, a The Verge também está refletindo sobre nossa memória digital. Durante a última semana, eles fizeram um especial sobre 2004, um ano crucial para a internet como conhecemos hoje. Foi em 2004 que nasceram o Gmail, Facebook, iPod Mini, Motorola Razr e várias outras inovações. A MariMoon também fez um vídeo no Instagram relembrando a conexão discada, os móveis horrendos que usávamos para apoiar nossos PCs, Fotologs, blogs e toda aquela coisa que temos muita saudade. 

Memória é importante. Cada link quebrado, cada site que some, cada feed de rede social que desaparece, vai embora junto um pedaço da nossa história online. Olhar para trás nos ajuda a entender melhor o caminho que nos trouxe até aqui, tanto para não repetirmos os mesmos erros, quanto para construirmos um futuro digital melhor.

CURTINHAS:

A explosão de influenciadores digitais no Brasil gerou um mercado bilionário de mentorias, com promessas de riqueza rápida que atraem milhares de aspirantes. Segundo a professora Rosana Pinheiro-Machado acompanhou mais de 500 mentores digitais e 500 mil aspirantes e num artigo pra Folha diz que muitos chegam a vender carros ou usar o FGTS para pagar cursos com preços altíssimos, na esperança de mudar de vida. Só que essa realidade é ilusória, a maioria dos compradores, quase sempre mulheres pobres e periféricas, lutam para sobreviver em num mercado digital saturado.

Os fãs da cantora Chappell Roan e seus fãs estão ajudando a redefinir a cultura das celebridades no quesito toxicidade nas relações entre artistas e seguidores. Chappel Roan decidiu cancelar shows para priorizar sua saúde física e mental e foi apoiada pelos fãs, que começaram a refletir sobre o papel que desempenham na pressão exercida sobre suas celebridades favoritas. Enquanto redes sociais esgarçam os limites entre vida pessoal e profissional dos artistas, a Teen Vogue conta como Chappell Roan e outros artistas querem estabelecer novas fronteiras de respeito e cuidado. 

A fabricante dos biscoitos Nutter Butter criou uma estratégia de conteúdo bizarro no TikTok, beirando o nonsense, e viu o número de seguidores disparar, passando de 400 mil para mais de 1 milhão em pouco mais de um mês. O conteúdo inclui cenas aleatórias e meio bizarras envolvendo manteiga de amendoim. Um vídeo mostra fotos granuladas de biscoitos Nutter Butter em uma casa de bonecas, com manteiga de amendoim espalhada por toda parte, criando a aparência de uma cena de crime. Outro exibe uma versão psicodélica do mascote Sr. Nutter Butter, em cores tecnológicas, com um biscoito Nutter Butter sendo colocado numa sandália Croc de bebê ao fundo. O impacto nas vendas ainda está sendo medido. Toda merca quer bombar nas redes, tem que ver se fama na internet reverte em algo concreto.

A 23andMe, famosa pelos kits de testes de DNA, está numa crise financeira e o resultado pode ser a venda dos seus valiosos dados genéticos. Com as ações à beira de serem retiradas da bolsa e o fechamento de divisões inteiras, como a de desenvolvimento de medicamentos, a empresa busca alternativas para sobreviver. O maior receio é o destino dos dados sensíveis se a empresa for vendida, com risco de  uso por seguradoras de saúde, por exemplo. Os especialistas alertam que qualquer vazamento de DNA tem consequências permanentes.

INTELIGÊNCIA ARTIFICIAL

Agora é o momento de explorar as transformações causadas pelas inteligências artificiais

O lançamento dos modelos GPT-4o e GPT-o1 da OpenAI reacendeu o debate sobre a capacidade de raciocínio das inteligências artificiais. A empresa diz que esses sistemas realizam raciocínios complexos, só que muitos especialistas questionam se isso é devido a uma verdadeira capacidade de abstração ou simplesmente à memorização de padrões presentes nos dados de treinamento. 

Um texto da cientista Melanie Mitchell, professora da universidade de Santa Fe, na Califórnia e especializada em IA, fala que estudos recentes mostram que essas IAs podem ter um desempenho reduzido quando enfrentam variações de tarefas conhecidas, o que indica limitações dessa habilidade de generalização. Essa discussão é crucial para o desenvolvimento da IA, especialmente em relação à uma inteligência geral confiável.

A Wired falou de um estudo conduzido por engenheiros da Apple, intitulado “GSM-Symbolic”, revelou falhas importantes nas capacidades de raciocínio matemático de modelos avançados como o GPT-4. A pesquisa demonstrou que alterações simples em problemas matemáticos, como mudanças de nomes e números, podem causar quedas de desempenho de até 9%, sugerindo que esses sistemas dependem mais de correspondências probabilísticas do que de um verdadeiro raciocínio lógico.

E a TechCrunch diz que essa limitação vai além da matemática. Yann LeCun, chefe de IA da Meta, afirmou que, apesar de características como “memória” e “pensamento complexo” presentes em sistemas como o ChatGPT, ainda estamos muito distantes de alcançar uma inteligência artificial que se compare à humana. Ele diz que o funcionamento atual dos modelos de linguagem se resume basicamente à previsão da próxima palavra ou pixel, sem uma real compreensão do mundo tridimensional.

LeCun argumenta que o futuro da IA depende do desenvolvimento de “world models”, que são modelos capazes de criar representações mentais de como o mundo físico se comporta. Você pode imaginar uma sequência de ações que você pode tomar e o modelo de mundo vai permitir que você preveja qual será o efeito da sequência de ações no mundo. Pra ele, ainda faltam muitos anos, até mesmo décadas, até que uma verdadeira Inteligência Artificial Geral seja alcançada.

No Guardian, o historiador Yuval Harari disse que os problemas da IA não por conta da IA, exatamente, mas por conta das falhas humanas, como a desunião e a presença de atores maliciosos. Países que controlam grandes fluxos de dados podem se tornar “colônias de dados”, criando uma nova forma de imperialismo digital, enquanto as nações pobres ficam ainda mais marginalizadas.

A disputa entre a China e os EUA pode resultar em conflitos imprevisíveis e perigosos da guerra cibernética, onde os ataques ão bem difíceis de controlar. Robôs com inteligência artificial, algo que vou falar um pouco mais hoje, são grandes riscos em um cenário como este.

Como diz Harari, diante do que sabemos sobre a humanidade, é melhor não invocar um poder que a gente não pode controlar. Mesmo se essa tecnologia não chegar tão longe quanto dizem as empresas de IA.

CURTINHAS:

A popularidade dos chatbots de IA tem levado muitas pessoas a compartilhar informações pessoais de maneira despreocupada com essas ferramentas. Diferente das pesquisas no Google, as interações com IA podem durar horas e os usuários fornecem mais detalhes em busca de respostas precisas, incluindo o envio de documentos sensíveis, como relatórios médicos, e capturas de tela de conversas íntimas. Falhas no ChatGPT demonstram vulnerabilidades, como um bug que expôs logs de conversas a terceiros. E a pressão sobre essas empresas para monetizar seus produtos pode transformar esses dados em alvos de publicidade direcionada, atingindo a privacidade dos usuários.

A startup Reality Defender desenvolveu uma ferramenta capaz de detectar deepfakes em tempo real, para ajudar a identificar fraudes em videochamadas. A empresa está focada em trabalhar com governos e empresas para combater fraudes de vídeo impulsionadas por IA, que já vem causando prejuízos com golpes online. A Reality Defender planeja lançar um plugin para Zoom que prevê em tempo real se os participantes de uma videochamada são reais ou uma versão gerada por IA. É, isso já é uma realidade e uma necessidade.

A Adobe revelou o projeto Project Know How pra facilitar a identificação e proteção das obras de artistas, tanto online quanto no mundo físico, como camisetas e bolsas. A ferramenta pode rastrear a autoria de obras de arte, mesmo que tenham sido digitalmente manipuladas ou os metadados tenham sido removidos. É uma esperança para os criadores que lutam pela proteção dos seus direitos autorais.

Já falei que Sam Altman, cofundador da OpenAI, nas horas vagas toca um projeto ambicioso de verificação de identidade chamado World (anteriormente Worldcoin), que cadastra a biometria ocular, através de um dispositivo físico chamado Orb. O objetivo é criar um sistema de verificação de identidade que possa distinguir humanos de bots em um mundo que promete ser dominado pela IA, com possíveis aplicações em sistema de renda básica universal. Eles agora lançara uma nova versão do dispositivo de escaneamento de íris. Sam Altman parece querer controlar a ligação entre o mundo sintético e o físico.

O NotebookLM, ferramenta baseada na IA do Google que serve para analisar documentos longos, vários de uma vez, ficou muito conhecida por conta da funcionalidade que transforma esses arquivos num podcast criado automaticamente baseado no conteúdo. Por enquanto, só em inglês, o troço é assustador, mesmo que depois e criar uns você perceba o truque e que, de maneira geral, ao transformar os documentos num papo, fique um pouco confuso entender a origem de cada fala. Agora chegaram novas funcionalidades pra personalizar a experiência do usuário, incluindo permiti o usuário direcionar melhor o que os Audio Overviews, a tal ferramenta de podcast, vai usar para criar o episódio. O que achei mais divertido foi criar podcasts a partir de dois ou três meses de vários grupos de WhatsApp, fica hilário.

O uso de IA generativa na publicidade está fazendo com que marcas consigam criar conteúdo personalizado de maneira muito rápida. A Amazon anunciou no seu evento Unboxed que já é possível criar imagens e textos com IA para anúncios de venda de produtos que extrapolam a função de apresentar uma visão realista do produto. O vice-presidente de tecnologia criativa da Amazon Ads diz que essa tecnologia vai facilitar a criação de campanhas dinâmicas que se conectam diretamente com as necessidades dos consumidores.  A expectativa da Amazon é atingir até US$ 50 bilhões em receitas em 2024.

Os pais de um estudante de Massachusetts estão processando sua escola depois que o filho foi punido por usar IA para escrever o esboço de uma redação. Os pais dizem que escola não tinha políticas claras sobre o uso de IA e que a punição pode prejudicar as chances do aluno entrar em Stanford no futuro. O caso pode definir como o uso de IA será tratado em ambientes educacionais.

Numa entrevista muito boa do Daron Acemoglu para BBC, feita no ano passado e resgatada depois que o economista venceu o Prêmio Nobel de 2024, o co-autor de Por que as Nações Fracassam argumenta que o Brasil deve evitar o uso da IA para automação e vigilância, como ocorre na China, e deve focar em empoderar os trabalhadores, já que o paí tem uma força de trabalho grande e perderia uma de suas vantagens competitivas se priorizasse a automação em massa. Para ele, o desafio é regular a IA de modo que ela promova a criação de empregos e o crescimento inclusivo, em vez de aumentar o desemprego e a desigualdade.

BIG TECH

E agora é hora de falar sobre como as Big Tech moldam nosso comportamento.

Dizem que esta chegando a hora que teremos robozinhos fazendo tudo pela casa. O único problema é a realidade e o limite do que essas máquinas conseguem fazer de maneira autônoma. Ou seja, falta um bocado.

 A robótica tem apresentado avanços promissores, só que os problemas de segurança ainda são bem grandes. E quando pensamos em associar inteligência artificial, o cenário fica ainda mais complexo. 

Pesquisas da Universidade da Pensilvânia, identificaram vulnerabilidades preocupantes em robôs controlados por IA. A universidade desenvolveu um algoritmo chamado RoboPAIR que conseguiu comprometer a segurança de três tipos diferentes de robôs em questão de dias, o que levou empresas como OpenAI e NVIDIA a reverem suas políticas de segurança.

Uma parceria de desenvolvimento entre a Boston Dynamics e o Toyota Research Institute busca aprimorar o robô humanoide Atlas, segundo a Tech Crunch. Pra isso eles utilizam modelos de comportamento em larga escala (LBMs), similares aos modelos de linguagem, como o ChatGPT, e já conseguiram bons resultados ino treinamento de robôs para tarefas domésticas, com 90% de precisão em atividades como virar panquecas.

Elon Musk, não quer ficar atrás e Bloomberg diz que Tesla também está avançando no campo da robótica, apesar de algumas controvérsias. A empresa precisou responder sobre o uso de operadores humanos para controlar seus robôs durante o evento We Robots, feito para divulgar futuros produtos. 

A Tesla divulgou um vídeo do seu robô humanoide, chamado Optimus, realizando tarefas de forma autônoma, como navegar pela fábrica, carregar bandejas e subir escadas. O chefe do programa Optimus disse que ainda existe necessidade de assistência humana em algumas situações. Como de costume no vale do silício, muito confete pra pouca festa.

A gente nem precisa ir tão longe pra pensar em problemas relacionados a robôs.
Hackers invadiram aspiradores-robô inteligentes da marca chinesa Ecovacs e usaram as câmeras e alto-falantes dos dispositivos para ofender e observar vítimas em várias cidades dos Estados Unidos, segundo a ABC News. 

Em um dos casos, um advogado percebeu que seu aspirador estava omitindo sons estranhos, antes de hackers tomarem o controle e começarem a cuspir ofensas racistas. A empresa disse que não encontrou falhas em seus sistemas, apesar de um dos modelos já ter um histórico de vulnerabilidades conhecidas.

Se mesmo sem IA os robôs já geram preocupações, imagina com. Mas como dá pra ver, o risco maior segue sendo mesmo os humanos. Pelo menos por enquanto.

CURTINHAS

O futuro da IA é nuclear, pelo menos essa é a aposta da Amazon e Google que estão liderando uma nova onda de investimentos em reatores nucleares modulares pequenos, tecnologias ainda não regulamentadas, vistas como promissoras para atender a demanda energética dos centrais de processamento de dados, principalmente de IA. Segundo a Ars Technica, a Amazon fez acordos com empresas de energia como Energy Northwest e Dominion Energy para explorar a viabilidade desses reatores, que prometem ser mais baratos e flexíveis que as usinas nucleares tradicionais.

Uma empresa não identificada com sede no Reino Unido, EUA ou Austrália foi vítima de um ataque cibernético depois de contratar um trabalhador remoto de T sem saber que era um criminoso norte-coreano. De acordo com a BBC, o hacker falsificou suas credenciais e, ao acessar a rede da empresa, baixou dados sensíveis e exigiu um resgate. Ele trabalhou por quatro meses antes de ser demitido por baixo desempenho. Depois disso, o hacker exigiu um resgate para não divulgar as informações roubadas. O incidente é parte de uma tendência de infiltração de trabalhadores remotos norte-coreanos em empresas ocidentais, que desviam os salários e informações para o regime norte-coreano,

A Ubisoft lançou o novo formato do seu serviço de assinatura, o Ubisoft+ Premium que oferece acesso antecipado a lançamentos e jogos clássicos. A estratégia da empresa tem como objetivo não apenas aumentar o acesso a seus jogos, mas também mudar a mentalidade dos jogadores para que se acostumem a não possuir os jogos, similar ao que aconteceu com músicas e filmes no modelo de streaming.

Não bastasse a nova onda de assinaturas dos streamings que mostram anúncios, agora as smart TVs da LG também exibem anúncios em tela cheia quando entram no modo ocioso, antes do protetor de tela. Essa novidade inclui propagandas tanto de produtos da própria LG quanto de empresas externas. Os usuários que não desejam ver esses anúncios podem desativá-los nas configurações da TV. Nem pagando pelo aparelho você controla o que aparece na tela.

O programa de bonificações do Threads, da Meta, tem recompensado criadores de conteúdo por suas postagens, apesar de muitos deles ainda não entenderem completamente como o algoritmo da plataforma funciona. Criado em abril de 2024, o programa está disponível apenas por convite e paga aos criadores com base no engajamento de suas postagens, mas com critério pouco claros. A Meta oferece bônus variados a partir de níveis, sendo que alguns criadores ganham até milhares de dólares mensais. Só que os participantes relatam dificuldades em entender quais tipos de posts são mais eficazes, com o algoritmo priorizando conteúdos que geram muitas respostas, parte do que falei no episódio passado.

Um novo projeto de lei no Reino Unido, chamado Safer Phones Bill, quer tornar o conteúdo das redes sociais menos viciante para menores de 16 anos. O projeto, apoiado por membros dos partidos Conservador e Trabalhista, assim como por especialistas em proteção infantil, propõe a exclusão de adolescentes de algoritmos que incentivam o “doomscrolling” e o aumento da idade mínima para consentimento digital de 13 para 16 anos. A proposta também inclui a possibilidade de revisar a venda de smartphones para menores e como tecnologias podem ser adaptadas para garantir mais segurança.

Quem quiser falar comigo, já sabe onde me encontrar: @urbe no Twitter, @resumido.podcast no Instagram, no TikTok e no Threads e youtube.com/resumido.

Se você preferir, também pode me mandar um oi pelo WhatsApp e Telegram para: 

E faça parte da lista de transmissão onde envio alerta de novos episódios, conteúdo extra e link para o post no www.resumido.cc com todas as reportagens comentadas em cada episódio para quem quiser se aprofundar. 

DICAS DE VER, LER E OUVIR

Hora de relaxar com as dicas de ver, ler e ouvir.

What’s next

“What’s Next? The Future With Bill Gates”, da Netflix, traz Bill Gates, soltinho na marola, explorando temas como IA, mudanças climáticas e desigualdade social. A série fala até das teorias conspiratórias sobre Gates e Tom Hanks serem ‘lagartos’, mas não se aprofunda nas soluções concretas para os problemas apresentados, principalmente quando se trata de regular a IA e reduzir a desigualdade de renda.

FlyLo

FlyLo está na área com música nova, sempre uma grande notícias. O novo single “Ingo Swann” do Flying Lotus mostrar uma faceta mais dançante do produtor de Los Angeles, com melodias de sintetizadores e um groove marcante. A faixa leva o nome de um famoso clarividente dos EUA e é o segundo single lançado este ano, logo após a chapada “Garmonbozia”. FlyLo tem se mantido ocupado dirigindo filmes e compondo para séries, coisa boa ele lançando músicas novas.

ENCERRAMENTO

Nesse episódio você ficou sabendo que nossa memória digital está em risco, dos limites das IA atuais, que robôs foram hackeados para assediar pessoas, que os coaches exploram pessoas vulneráveis, que Amazon e Google estão apostando em energia nuclear para alimentar suas IA, que hackers norte-coreanos estão se infiltrando em empresas do ocidente como funcionários remotos, que até sua smart TV está mostrando anúncios sem seu consentimento e muito mais!

Se você gosta do RESUMIDO, recomende para mais gente, é muito importante e ajuda demais e não deixe de curtir, assinar, seguir, dar 5 estrelinhas e uma resenha na plataforma que você estiver escutando este episódio agora.

RESUMIDO é produzido e apresentado por mim, Bruno Natal

O roteiro é escrito por mim e pelo Agenor Neto

com a colaboração de Carlos “Calbuque” Albuquerque

O Cauê Marques co-edita o roteiro, a newsletter O Futuro Explicado e as redes sociais, que conta com animações do Peri Semmelmann 

A edição e mixagem é feita pelo Miguel Mermelstein

A foto da capa é do Jorge Bispo

E o tema original foi composto por Gustavo Silveira

Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!