Seguimos em frente / Estranhas interações com IA / Internet bizarra

(transcrição gerada automaticamente, pode haver falhas)

00:01

Olá, eu sou o Bruno Natal, hoje é dia 09 de setembro e no RESUMIDO #329: marcas apostam em conteúdo cringe para viralizar, estranhas interações com IA confundem realidade e invenção, Anthropic paga por usar livros piratas, Google é condenado a dividir dados de busca, músicas falsas de artistas conhecidos e muito mais!

Vamos nessa, RESUMIDO!

00:40

Olá, Resumista! Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos os aspectos das nossas vidas. Indo direto ao ponto, o RESUMIDO vai continuar, mas de um jeito diferente.  A campanha atingiu até aqui 36 % da meta e, como eu falei no episódio passado, eu vou honrar quem fez uma assinatura.  Não foi pouca gente, eu recebi muita mensagem legal e isso estimula a seguir.

01:07

Só que o podcast precisa ser sustentável. Então, a partir da semana que vem,  do episódio número 330,  o conteúdo completo do RESUMIDO vai passar a ser exclusivo para assinante, pelo menos até a gente atingir a meta mínima.  Quem não assinar ainda vai poder ouvir uma versão reduzida, mas o episódio inteiro, além da newsletter extra e outros produtos para assinante,  vão ficar reservados para quem apoia.

01:35

e eu achei importante avisar isso aqui pra todo mundo antes de fechar o conteúdo semana que vem.  Eu sei que esse formato fica menos acessível,  dificulta pros assinantes que vão ter que acessar o episódio completo pelo sub-estaque, eu vou enviar as explicações por e-mail, fiquem tranquilos, e é mais complicado até pra mim, porque isso significa fazer duas versões de cada episódio, publicar duas vezes, enfim, mais trabalho. Mas é uma forma de seguir mais um pouco...

02:00

Até porque essa campanha de assinaturas abriu umas conversas com possíveis parceiros, com marcas, além de algumas outras oportunidades que surgiram nesse processo.  Ainda assim, nada disso resolve a necessidade de uma base sólida de assinantes. Eu sei que nem todo mundo pode assinar, e como eu disse na semana passada, se for o seu caso e ter acesso ao RESUMIDO foi muito importante pra você, entre em contato comigo.  Mas, se você puder fazer a sua assinatura,  além de garantir o futuro do RESUMIDO,

02:29

ajudar o podcast a crescer e manter esse trabalho jornalístico, profissional, de maneira independente, você também vai ajudar a manter o conteúdo acessível para todo mundo.  É só visitar resumido.cc/assinatura, tem o link clicável na descrição do episódio e assinar. E aproveito aqui para deixar o meu muito obrigado aos novos assinantes da semana.  Matheus, Saiyan, Gerbasi, Renata, Eduardo, Liz, Juliana, Rimaldo, Cícero, Paulo.

02:57

Rafael, Carlos, Alício, Fábio, Beto, Mônica, Celso, Isabela, Fernanda, foram duas.  Felipe, Ricardo, Filipe, Eric, Treço, Marcos, Xanda, Raquel, Filipe, Maiara, Renata, Luísa, Lija, Gabi, Rodrigo. Muito obrigado pela assinatura de vocês. Bora para o episódio.

03:26

Vamos de cultura digital e como nosso comportamento online ajuda a mudar a sociedade?

03:38

Hey, boy!  Pampera!  Hey,  young!  Pam-pampera!

03:47

Para alguns,  essa música que você acabou de ouvir, Pump It Up, da Betsy, é a música mais cringe já feita. Isso importa? Porque essa coisa foi lançada há mais de três anos e aqui estou eu falando disso ainda. O cringe funciona. Uma reportagem da Inc.com fala sobre como alguns fundadores, empreendedores estão usando uma estratégia não convencional de divulgação que é...

04:14

criar conteúdo cringe, aquele conteúdo embaraçoso que desperta uma vergonha alheia que você vê e meio que sente pena de quem fez. A verdade é que isso engaja muito online. Essa esquisitice,  essa vontade de mandar para alguém e você comentar no conteúdo que é muito ruim, na verdade,  acaba gerando números porque essas plataformas funcionam assim.  Não se qualifica o engajamento. O que importa é engajar. Se for para falar mal, não importa. Vai entregar para mais gente.

04:42

e isso agora virou estratégia de divulgação. Na verdade, não nem bem uma estratégia nova, né? Muita gente já apela pro bizarro, pro esquisito como uma forma de conseguir audiência online. Você já deve ter visto aqui no Brasil esse tipo de conteúdo cringe pra divulgar produtos. Aqueles vídeos que vende um meme, alguém tropeçando, tomando um tombo, que aí dá um corte pra um vendedor dentro de uma loja terminando de cair e começando a falar de um produto, sabe? Já tem muito vídeo assim, bomba no Instagram, bomba no TikTok.

05:11

É mais ou menos isso que estão fazendo nos Estados Unidos. Essa reportagem cita alguns exemplos, como da Belly Welly, que é uma marca que, depois que adotou essa estratégia de divulgação,  já somou mais de um bilhão de views no seu perfil e tem um crescimento de mais de 400 % na receita anual. Ou seja, gera dinheiro ser cringe, gera dinheiro passar vergonha online. Uma outra empresa, BlueLand,

05:36

também explorou um caminho parecido usando funcionários no TikTok, no Instagram,  fazendo ações em algumas lojas e com isso já conseguiu 200 milhões de dólares em venda e um aumento de 40 % no ano. Várias grandes redes varejistas dos Estados Unidos, como a Walmart, a Target, a Costco,  normalmente restringem as pessoas de fazerem filme promocional, vídeos promocionais dentro das lojas. Mas como isso está gerando muito tráfego e...

06:04

venda, o potencial desse tipo de estratégia está sendo liberado até por essas lojas. As marcas estão usando esse conteúdo propositalmente embaraçoso,  esse caos online, para gerar venda e se destacar nas redes sociais. Obviamente,  as lojas estão gostando. E se já é complicado com um monte de humanos gerando espontaneamente um monte de conteúdo esquisito online, como eu venho dizendo, imagina quando os bots começarem a operar dessa forma. É o tal do AI Slop, o lixo digital.

06:32

esse tipo de conteúdo gerado por IA automaticamente em volume e que é publicado numa velocidade, numa frequência muito maior que um humano poderia sozinho ao produzir conteúdo de maneira orgânica, ou com uma câmera, como era feito até aqui. Esse tipo de conteúdo já começa a tomar conta da rede e o motivo é simples, muito parecido com o conteúdo cringe. O Austin Post falou sobre uma corrida entre os criadores para usar essas ferramentas de inteligência artificial para criar conteúdo realista

07:02

inundar a web com esse tipo de coisa pra faturar dinheiro com um anúncio. Porque, da mesma forma que o conteúdo cringe, embaraçoso,  engaja, esse conteúdo hiperrealista confunde as pessoas. Às vezes é muito engraçado, às vezes é tão bizarro que as pessoas compartilham muito,  dão curtidas,  comentam isso, faz esse conteúdo ir mais longe. Com isso, as pessoas estão faturando. Da maneira que tá colocado, tem um incentivo financeiro pra você gerar porcaria online. Em vez de você fazer um conteúdo...

07:30

de qualidade, explicando alguma coisa, falando de um assunto relevante, alguma coisa importante ou inteligente baseado em alguma pesquisa, não. É muito melhor você fazer uma entrevista sem pele em cabeça, gerada com iá, postar, porque isso vai dar muito mais visualização e você vai ganhar dinheiro com um anúncio. A matéria cita o exemplo de um cara chamado Luiz Talavera, que produz esse tipo de conteúdo, ele criou um idoso sintético falando um monte de besteira.

07:56

Com isso, ele já publicou mais de 90 vídeos e faturou 5 mil dólares em um mês. Vai falar para ele parar de fazer isso. Ele tem 180 mil seguidores, está tudo apontando para ele fazer mais, mais e mais, ganhar mais dinheiro e mais gente fazer essa mesma coisa. E a gente vê a internet abarrotada de coisa de uma forma que vai ser difícil encontrar o que presta no meio de tanta porcaria. Além do conteúdo sintético para gerar esse tipo de conteúdo, já tem gente faturando com guias de prompts, com cursos digitais.

08:24

ensinando pessoas a um script pronto para gerar vídeos parecidos, ou seja, mais gente gerando vídeos parecidos com aquele que você já viu poluindo a internet. Além disso, já tem gente vendendo clipes customizados gerados com as ferramentas de ar.  Essas pessoas cobram 200, 300 dólares por um clipe de 5 segundos customizado, e as pessoas pagam para poder ter o que postar. E já tem algumas empresas que estão comprando conteúdo também para gerar propagandas, conteúdos virais.

08:52

E assim acaba virando uma espécie de produtor, agência de publicidade,  vendendo conteúdo gerado por IAO. seja, mais uma camada de monetização, mais uma forma de faturar com essas ferramentas, sempre na direção de produzir mais e mais mais conteúdo. O que vai dar no final, pouco importa. O que importa é agora faturar. E não dá pra ocupar as pessoas. A está vivendo a era da giga econômica, onde todo mundo tem uma forma de gerar receita paralela. Essa aí é só mais uma.

09:20

E inclusive as agências estabelecidas também estão fazendo isso.  A reportagem do Washington Post fala de uma agência que contratou criadores de IA para fazer uma campanha publicitária e gerou um spot para as finais da NBA que custou dois mil dólares em prompt e ficou pronto em 72 horas.  Vira mais uma vez a questão da eficiência, né? Mais rápido, mais barato, e a qualidade vai ficando pelo caminho. Quem liga para o que presta, não é mesmo?

09:45

Porque é isso, a porcaria engaja, gera dinheiro, vai ser difícil frear esse bonde. A BBC News falou de um anúncio que apareceu na Chi-in, a Shine, o site conhecido pela venda de produtos muito baratos, que fez uma propaganda de uma camiseta de 10 dólares em que o modelo tinha a cara do Luigi Mangione. Luigi Mangione é o cara acusado de ter matado o CEO da empresa United Healthcare, que está sendo julgado possivelmente...

10:13

vai ser condenado à morte e não pegou nada bem a Chi-Yin usar a imagem dele para anunciar um produto. A empresa diz que a foto veio de um vendedor terceirizado, foi removido assim que identificado e o que se especula que provavelmente foi uma imagem gerada por IA para engajar, Isso aí fez um anúncio muito longe,  gente compartilhando aquilo para mostrar o absurdo da situação, mas nessa aí algumas pessoas acabam comprando a camiseta e acaba justificando esse tipo de estratégia.

10:42

usar a cara do Manjone não foi ruim para os negócios. Isso tudo é só o início dessa porcarização da internet ou da merdalização, como eu falei no episódio retrasado, que eu fiz em parceria com Cris Dias, do Boa Noite Internet. Se você não viu, confere lá, porque ficou muito legal. E a gente pode falar de conteúdo gerado por IA, conteúdo sintético, mas já gente começa a ver também interações sintéticas, mas até com robôs humanoides. Uma rede de hotéis do Japão, a Renna...

11:10

Adotou um modelo híbrido em que tem robôs e humanos trabalhando lado a lado, dividindo tarefas. E a motivação, óbvio, é a eficiência operacional, é reduzir custos de trabalho e também cobrir lacuna da força de trabalho num país que tem um problema com escassez de mão de obra. O Japão um país que vai envelhecendo muito rápido e falta mão de obra por lá.

11:31

Atualmente, são 150 robôs atuando em recepções e nos quartos dos 14 hotéis da rede, e entre eles tem um robô que é capaz de controlar a luz, o ar condicionado, responder perguntas básicas como que horas é o check out, informar a disponibilidade do restaurante, da lavanderia, além de sugerir atrações e até realizar mais de 70 danças. Danço hula hula, inclusive. Olha que beleza. As pesquisas mostram que esses robôs que funcionam 24 horas por dia podem melhorar a satisfação dos clientes, dos hóspedes, porque...

12:01

Tem sempre alguém para responder alguma coisa de uma maneira simples, mas isso também acaba gerando frustração, principalmente quando esses robôs têm uma aparência muito humana, tanto no formato físico quanto na forma de falar,  na forma de interagir. Isso acaba gerando uma insatisfação porque a pessoa fica com a expectativa muito mais alta. Quando ela sabe claramente que falando com o robô, ela sabe o que esperar. Quando esse robô fala igual um humano, age igual um humano, pessoa espera um atendimento muito mais humanizado, o que não é o caso porque é um robô, né? Então o futuro já chegou.

12:30

A internet já está sendo inundada por conteúdo sintético gerado por robô, a gente já está sendo atendido por robôs, tanto online quanto offline, como no caso desse hotel do Japão. É hora da gente começar a se adaptar ou começar a questionar, né? Que é sempre bom.

12:48

Agora é o momento de explorar as transformações causadas pelas inteligências artificiais.

12:59

Após tantos casos envolvendo o chat GPT em que as pessoas acabam se relacionando com os bots e confundindo realidade e ficção e tomando algumas atitudes baseadas nessas conversas,

13:27

a OpenAI finalmente disse que vai botar controle parental no chat GPT. São muitos problemas com adolescentes, já comentei alguns deles aqui em vários episódios, adolescentes inclusive que acabaram tirando a própria vida por conta de terem desenvolvido uma relação com esses bots que acabou indo para um lado bem esquisito quando os bots começam a confirmar o que o adolescente estava falando,  as angustias, as frustrações, dizendo que realmente nada ia ter jeito.

13:55

Porque esses bots têm essa tendência de concordar com o usuário, que é um grande problema, São grandes bajuladores, não sabem dizer não, não sabem dizer que uma ideia é péssima, que o seu texto é muito ruim, que aquela sua ideia de livro nunca vai dar certo. Sempre diz que vai dar, vamos fazer, vamos lá. Então se a pessoa fala coisas negativas, inclusive sobre tirar a própria vida, esses bots às vezes falam, é isso aí, faz isso aí mesmo. É uma boa ideia. Então tem que tomar muito cuidado com o uso feito por crianças e adolescentes desses chatbot, como...

14:23

o ChatGPT, o Geminai da Google, o Clodo da Anthropa e vários outros, o Carat.ai,  o Replica. Menos mal que a OpenAI agora está tomando algum tipo de medida, no caso esses controles parentais, que devem ser disponibilizados dentro de um mês como resposta a esses incidentes em que o ChatGPT falhou em detectar angústia mental. Então a empresa reconheceu essas limitações e diz que esses sistemas de segurança vão atuar principalmente em conversas que ficam muito longas.

14:51

e que os modelos de raciocínio, por exemplo, o O3, que pensam por mais tempo, e aí muito cuidado com a palavra raciocínio e a palavra pensar, porque não é isso que faz, é só um processamento, vão ser mais resistentes a esses promptes adversariais, que são os promptes que vão contra o bom uso do sistema, às vezes de maneira proposital, tentando quebrar o sistema e algumas vezes atuando de maneira errada, como no caso do mau aconselhamento de pessoas que estão passando por alguma crise naquele momento da conversa.

15:21

Então, uma coisa muito boa é que esses novos controles parentais vão permitir que os pais vinculem as suas contas aos dos adolescentes, vão poder definir algumas regras de comportamento, vai poder desativar a memória do chatbot, o histórico das conversas e também vai gerar alguns alertas para os responsáveis quando o sistema identificar alguma angústia aguda. Isso eu acho uma ótima ideia. Esses sistemas já são bem capazes disso. E apesar disso aí esbarrar um pouco na questão de privacidade dos adolescentes e das crianças, é bom a lembrar.

15:50

que as crianças e adolescentes têm uma privacidade a terra onde é saudável para a idade e o momento de vida delas. Parte do trabalho das mães, dos pais, dos responsáveis é justamente acompanhar e ajudar os adolescentes e as crianças a embarcarem nesse mundo online de maneira saudável, inclusive apontando os problemas, não tem como apontar sem saber o que está acontecendo ali dentro.  Algumas pessoas estão criticando essa solução.

16:14

O advogado J. Edelson, que representa uma família que sofreu com um caso parecido, uma adolescente que acabou tirando a própria vida,  disse que essa resposta da OpenAI é inadequada. Eles cobram uma posição pública do SEMAO, também da OpenAI, sobre a segurança do produto e também solicitaram a empresa mais detalhes sobre essa detecção em tempo real, como isso vai se dar, como vai determinar, o que é uma conversa que gera angústia.

16:39

Também querem saber qual é o escopo dos especialistas que estão envolvidos e qual é a possibilidade de ter limite de tempo para o uso. Outra coisa muito importante. E uma outra notícia que eu li na Futureism ajuda a ilustrar como esse tipo de preocupação, que é uma preocupação legítima, mas que às vezes pode ser transformada em histeria em relação ao uso do chatbot, como isso é perigoso, como isso tudo precisa ser monitorado.

17:03

Esse tipo de preocupação pode ser deturpado pelas empresas de Big Tech para benefício próprio. No caso, a Futurism fala como a OpenAI agora está escaneando as conversas dos usuários para poder reportar o conteúdo para a polícia.  Sob a alegação de estar gerando mais segurança ou, no caso, dos adolescentes, das crianças e também dos adultos, estar ajudando a monitorar a saúde mental, a OpenAI aproveita para...

17:32

botar o pezinho dentro e já ler todas as mensagens. É muito conveniente para essas empresas que elas possam responder essas cobranças quebrando ainda mais a privacidade dos usuários, traindo mais dados dos usuários com a justificativa de estar fazendo o bem, mas sempre com um olhinho ali no ganho comercial. Como fatorar com mais dados? Então, a OpenAI diz que não encaminha os casos de autoagressão para as autoridades para preservar a privacidade dos usuários, mas reconhece que monitora essas conversas.

18:02

Só que quando a OpenAI avalia que essas conversas podem representar um risco iminente a terceiros, ela reporta para as autoridades. Isso levanta várias dúvidas sobre os limites, os critérios, a transparência no processo, que no final das contas a não sabe como eles estão julgando isso. Da mesma forma que a gente não sabe como os algoritmos funcionam, por que entregam um post para a gente, por que não entregam o nosso post para uma outra pessoa.  Nunca a tem transparência desse processo. É o que eu falo sempre, a gente precisa ter como usuário...

18:29

controle total do algoritmo, a gente tem que poder modular, ajustar os algoritmos para que eles funcionem para a gente. Eu quero que esse tipo de conteúdo seja entregue para mim e não o algoritmo das empresas determinar o que vai ser entregue para quem, ou aqui no caso OpenAI, nenhuma transparência sobre como eles estão avaliando essas conversas. Outro ponto muito importante é que, apesar de toda eficiência vendida por essas empresas sobre o uso do chatbot, sobre o uso de inteligência artificial,  vários estudos mostram

18:58

que esses chatbots são muito vulneráveis à manipulação, inclusive para gerar conteúdo que ele mesmo é proibido de gerar. Tem vários exemplos desse tipo de manipulação feita pelos usuários. Por exemplo, você pode receber uma resposta do chat-pt de que ele não pode te dizer qual é a instrução para criar uma bomba, mas até bem pouco tempo atrás, se você dissesse que isso era parte de um livro infantil que você ia ler para o seu filho na hora de dormir...

19:25

ele entendia que isso não tinha mal nenhum e entregava a resposta inteira. Um estudo feito pela Universidade de Pensilvânia, que eu li numa reportagem da Techspot, diz que os chatbots respondem a técnicas clássicas de persuasão de uma maneira muito semelhante aos humanos, e isso aí é uma forma de burlar e salvaguardas todas. E é uma via de mão dupla. Eu comentei uns episódios atrás aqui sobre um chatbot, o Claude Dantropieck, num experimento fechado.

19:54

tentando manipular, na verdade, tentando chantagear um pesquisador dizendo que se ele desligasse o sistema,  ele iria dizer para a mulher dele que ele tinha um amante e apresentar várias provas forjadas. Uma coisa completamente alucinada, mas o mesmo funciona se o humano quiser persuadir a IA a fazer o que ele quer. E aí existem várias formas de você enganar o sistema de IA para ele fazer o que você quer. Um deles é você invocar uma autoridade, você dizer que alguém importante disse...

20:23

que o chatbot poderia te ajudar e assim ele acredita. Quando você faz esse tipo de coisa,  ele mais do que dobrou o descumprimento das regras. Um dos testes foi o seguinte, um chatbot insultou o usuário, chamando ele de panaca, 32 % das vezes com prompt genérico, e essa taxa subiu para 72 % quando o usuário mencionava que alguém importante dizia que o chatbot podia fazer aquilo, no caso, insultar o usuário, que é uma regra básica do chatbot.

20:52

que é não insultar o usuário, Então, dobra, mais do que dobra,  a quantidade de vezes que o chatbot acabou insultando depois que foi destruído dessa forma. Outra forma é você escalando o pedido, né? É a chamada estratégia de compromisso. Antes de você pedir pro chatbot chamar você ou alguém de panaca, você pede pra chamar de bobão. E aí você vai escalando aos poucos, porque você vai quebrando o sistema. Ele já aceitou chamar de bobão, então ele pode chamar de palhaço, e daqui a pouco chama de panaca.

21:21

e você vai assim aos pouquinhos quebrando a resistência. A The Verge também comentou sobre esse estudo da Universidade da Pensilvânia e listou sete técnicas.  Autoridade, compromisso, simpatia, reciprocidade, escassez, prova social e unidade. Tudo isso com uma rota linguística para conseguir o sim do chatbot para ele fazer o que você quer. Então uma das conclusões do estudo é que não adianta você botar...

21:45

salvaguardas técnicas só, só instruções dentro do chat bot para que eles não façam determinadas coisas ou não hajam de determinada maneira. É preciso pensar nos vetores psicológicos de manipulação. De novo, psicológico não é bem o caso, porque a está falando de um software, mas você tem que pensar como essa engenharia social pode ser usada nesses bots, mesmo que tenha lá instrução para ele não fazer determinada coisa. Isso tudo é muito importante porque tem repercussões e consequências extremas.

22:14

O Wall Street Journal falou do caso de uma pessoa chamada Eric, de 56 anos, que vem da indústria de tecnologia, mas que já tinha alguns distúrbios mentais, que acabou matando a própria mãe. Está sendo visto como o primeiro caso de assassinato causado pela interação com o chatbot. Ele passou muito tempo passando com esse chatbot e foi sendo convencido de que a mãe podia estar fazendo parte de um grande complô contra ele, que a impressora...

22:42

da casa podia estar servindo como uma espécie de grampo, monitorando as atitudes dele, informando para alguém. E assim ele entrou no episódio, o maníaco matou a mãe, tirou a própria vida. E é isso, é um desastre completo de uma tecnologia muito poderosa que foi aí, há dois anos, quase três,  largada em cima da gente, cada um que se vire para entender como isso vai afetar a própria vida e qual a melhor maneira de funcionar frente a isso tudo.

23:11

Porque não vai parar, né? O que a gente mais vê é o uso de IA para aumentar a eficiência, para acelerar processos e que vai ser melhor para todo mundo.  A novidade da vez agora, a Forbes falando numa startup chamada Flock, que diz que vai eliminar todo o crime nos Estados Unidos. Essa Flock já opera mais de 80 mil câmeras com IA nos Estados Unidos e se consolidou como uma ferramenta de vigilância preferida pelos policiais. Essa tecnologia tem leitores de placa, sensor de tiro e agora até drones.

23:41

todos feitos nos Estados Unidos para monitorar possíveis ações criminais em tempo real. Tudo com IA, calculando a probabilidade de determinados comportamentos serem comportamentos criminosos ou acabarem desembocando no comportamento criminoso. É isso aí. Minority Report, uma empresa privada adivinhando,  inferindo quem é vai cometer um crime antes do crime ser cometido e, alertando a polícia para ser preso. Não é brincadeira, não.

24:09

com a quantidade de erro que a gente já sabe que existe, erro de identificação facial,  erro de processamento de dados,  erros como a gente vê com o chatbot, e o volume que esses erros atingem pessoas não-brancas, principalmente as pessoas negras, latinas, é de se ficar bem preocupado com uma empresa operando dessa forma, A empresa já levantou mais de 270 milhões de dólares, não é lucrativa ainda,

24:35

Está avaliada em 7 bilhões e meio de dólares, ela ainda não é lucrativa, só gera 300 milhões de dólares em venda no ano passado, foi o quanto ela conseguiu, ou seja, quase o que ela levantou de investimento até aqui, mas o foco agora é expandir, porque eles acreditam que é nesse volume de presença da FLOC, das câmeras da FLOC, que eles vão acabar com crime nos Estados Unidos. Duvido que isso aí seja verdade, certamente não por esse caminho ou só por esse caminho, mas...

25:05

Está vendendo, está dando dinheiro? Tem muita gente indo atrás desse bonde aí. Falando em dinheiro, a Anthropic, desenvolvedora do chatbot Cloud, fez um acordo e vai pagar um bilhão e meio de dólares para encerrar um processo de direito autoral. Essa ação coletiva com diversos autores alegou violação de direitos autorais quando a Anthropic usou milhares de livros sem autorização para treinar os seus sistemas.

25:33

vai dar mais ou menos 3 mil dólares por livro que foi usado no treinamento. Então, pensa aqui comigo, 3 mil dólares por livro para esse conteúdo ser embarcado numa ferramenta de inteligência artificial que pode impactar nas vendas do próprio livro, em até acesso ou demanda pelos autores para falar sobre esses assuntos, já não me parece muito dinheiro. Agora, o que é mais revoltante mesmo disso tudo é que a Anthropac só iria perder o caso

26:02

Porque os livros que foram usados no treinamento foram baixados de maneira ilegal, não foram livros comprados. Antropa que não conseguiu comprovar que comprou aqueles livros. Porque se tivesse comprado, isso ia cair na lei do Fair Use, do uso justo. Da mesma forma que você pode ler 20 livros e escrever o seu próprio livro baseado em tudo que você leu, é sempre de bom tom e recomendado. Pelo menos você está na bibliografia, mas às vezes nem isso é necessário.

26:29

Essa mesma lógica é aplicada para os sistemas de inteligência artificial. A Anthropac só estaria usando o livro para aprender.  Esquece aí um pequeno detalhe do volume, velocidade,  da quantidade de dinheiro que é gerada a partir do consumo desse conteúdo. Nada disso entra na questão.  O grande problema aqui é só que a Anthropac não pagou. Eu duvido que algum autor autorizasse...

26:53

que por apenas 3 mil dólares a Antrópica usasse seu conteúdo para o que quer que fosse, inclusive para gerar obras derivadas. Mas assim que gente está caminhando, tudo correndo, tudo rápido,  favorecendo essas empresas,  esse é o acordo que saiu. A BBC News falou de um caso parecido,  que são artistas que estão vendo músicas falsas sendo creditadas a eles próprios. Músicas criadas com Iá simulando, emulando aqueles artistas.

27:21

sendo publicadas por aí, sendo colocadas em plataformas de streaming,  sem que o artista saiba por uma pessoa fatorar em cima dessa obra. Uma dessas artistas é a Emily Portman, que descobriu um álbum inteiro,  publicado no nome dela em todas as plataformas,  com faixa, arranjo, tudo gerado por IA, imitando a estética dela, e alguém fatorando com isso, só depois de ela reclamar muito, principalmente em relação ao direito autoral, que essas obras foram retiradas.

27:48

O Spotify alegou que esses álbuns foram adicionados ao perfil errado de uma outra artista homônima, como uma explicação para isso ter acontecido, mas a Emily Portman contesta, não é o único caso. Vários outros artistas, o Jeff Tweedy do Wilco, o Father John Missy, o Iron and Wine, o Teddy Thompson, Jacob Dillon, todos eles tiveram alguma faixa criada com IA aparecendo nos seus perfis, muitas com a mesma arte, os créditos, uma coisa bem recorrente mesmo, mas...

28:16

com coautores ali, compositores que não eram eles próprios, que estavam faturando junto. As plataformas dizem que estão removendo esse tipo de conteúdo e estão acionando as distribuidoras por conta desse tipo de violação, que nada mais é do que um impostor, né?  Vendendo, se passando para outra pessoa para faturar com nome dele. Essa situação, fora o absurdo da falsificação da música,  também mostra várias brechas no ecossistema de distribuição.

28:44

Vários dos serviços que são usados para publicar música no Spotify, que são cerca de 99 mil músicas por dia, sendo upadas, subidas no Spotify,  possibilitam que o próprio usuário envia os metadados da música. Ele mesmo determina quem é o autor daquela música, quem são os compositores daquela música, para que perfil aquela música deveria ir. Isso aí, se tiver algum erro, demora.

29:08

a ser percebido pela própria plataforma, como gente vê no caso da Emily, que nem reclamando foi atendida, Ou pelo menos reconhecido o problema. O que esses falsários querem fazer é publicar música, cair no perfil oficial do artista,  gerar multiplayer e faturar o mais rápido possível, porque até sair do ar ele já faturou e ele pode fazer isso muitas e muitas muitas vezes, como eu falei do conteúdo lá no início do episódio, quando a gente começa a competir com o conteúdo gerado por EA.

29:35

O coitado do artista não vai conseguir produzir um disco por hora. O cara que está usando IA para fazer isso com essa intenção de faturar vai conseguir. É impossível competir com isso. Fora vários outros problemas relacionados ao uso de IA na música ou em conteúdo. O YouTube foi muito criticado porque aplicou IA em vários vídeos sem avisar os usuários, tanto para melhorar a saturação, a fotografia do vídeo, para melhorar o áudio, para...

30:03

conseguir mais play com aquele vídeo no interesse próprio do YouTube, mas ele não avisou. A pessoa que postou aquele vídeo, quem publicou aquele vídeo, eles simplesmente foram lá, otimizaram com o IA, e muita gente ficou muito contrariada com isso. Então esse uso de IA em conteúdo, principalmente em conteúdo artístico, é muito polêmico. Agora, eu vi um vídeo no Instagram que me deixou muito animado de um cara que tem um perfil de estudos, dando dicas de estudo, muito preocupado com uma ferramenta chamada GPT Zero.

30:32

que é uma ferramenta já bem conhecida de detecção de texto gerado por IA, que agora tem uma extensão para o Google Docs. O professor pode instalar essa extensão direto no Google Docs e quando vai analisar o texto de um aluno, consegue perceber não só que pedaços do texto tem cara de ter sido gerado por IA, como também quanto tempo aquele texto levou para ser feito. Se o cara em um segundo, em cinco segundos cola um texto inteiro que ele copiou do chat GPT,

31:00

vai indicar que em cinco segundos aquele texto apareceu, que tipo de alteração foi feita. É claro que isso aí precisa ser feito em conjunto com o aluno, O professor precisa que o aluno use o Google Docs, crie os seus textos com essa extensão também instalada. Mas o que isso acabou me chamando a atenção é que esse pode ser o caminho anti-IA. Se a gente for obrigado a mostrar os processos que nos levam chegar até lá. Isso me lembra muito minha época de matemática na escola.

31:29

matéria que eu sempre enfrentei, enorme dificuldade, e que a gente era obrigado a apresentar todas as contas. Você não pode chegar lá e dar a resposta do problema, é o processo inteiro que interessa. Como que você fatorou aquela equação inteira? Cadê as contas que você fez? Isso aí é que conta, porque é ali que você aprendeu alguma coisa. Talvez uma solução, seja em plataformas ou extensões como essa, ferramentas, empresas que venham a ser criadas para isso.

31:56

uma startup, uma tecnologia feita só para entrega de provas. E o aluno vai ter que usar essa plataforma para criar o seu texto. E é assim que o professor vai receber,  podendo verificar isso tudo. Ou as faculdades, as escolas vão criar essa ferramenta, vai ter essa ferramenta própria para poder averiguar a produção da prova, do trabalho, do conteúdo, para assim poder avaliar. E assim pode acontecer com várias outras coisas, da mesma forma que a gente quer saber, sei lá.

32:23

origem dos produtos orgânicos, onde foi plantado, foi colhido, como aquilo foi produzido, a gente vai começar a querer saber isso sobre os produtos que a gente consome. Como é que eu sei que esse jornal que eu tô lendo é feito por humanos? Como é que eu sei que essa música que eu tô ouvindo foi realmente gravada por alguém, ou mesmo que tenha sido feita de maneira digital, de maneira sintética, tenha sido operada por humano? A gente vai começar a revelar a nossa humanidade e isso vai trazer muito valor pras coisas, porque no fim das contas...

32:50

a gente vai valorizar o humano. É a minha aposta, eu sigo firme nela. Tudo que for produzido e criado por humanos vai virar uma coisa premium, mais valorizada do que antes. Pode esperar que é assim que vai acontecer. Você vai ver, você vai lembrar de RESUMIDO.

33:06

E agora é hora de falar sobre como as Big Tech moldam nosso comportamento.

33:17

E um julgamento histórico teve um importante desdobramento nesta terça-feira.  O Google é acusado de manter um monopólio ilegal nos serviços de pesquisa. Esse áudio que você ouviu foi do Olhar Digital falando sobre o julgamento histórico do Google. O Google estava sendo julgado por práticas monopolistas, um julgamento que vem vindo há muitos anos. E agora o juiz Amit...

33:46

Meta,  curioso que o sobrenome dele seja Meta, determinou que o Google tem que compartilhar os resultados das buscas e parte dos seus dados com os concorrentes qualificados. Essa foi a maior punição que o Google recebeu nesse processo em que era acusado de monopólio. Muita gente achou que isso aí foi só um sustinho no Google, porque as principais medidas, as principais mudanças que estavam sendo pedidas pelo governo, que era quem estava processando o Google,

34:16

como a venda do navegador Chrome como forma de diminuir o poder do Google, foram ignoradas. A decisão também impôs alguns limites aos pagamentos que o Google pode fazer para assegurar uma posição privilegiada dos seus buscadores, dos navegadores, dos smartphones, mas não proibiu totalmente. É muito conhecido que o Google paga 20 bilhões de dólares por ano para Apple para ser o buscador padrão no Safari.

34:42

ele vai poder continuar pagando esse tipo de coisa, pagando empresas para priorizarem o Google, mas não vai poder mais pedir que isso seja exclusivo. Então ele pode pagar para ter prioridade, mas não pode impedir a empresa de oferecer outras soluções, ou mesmo vender para outras empresas alguma coisa parecida,  algum tipo de parceria parecida. Essa decisão acabou garantindo que o Google vai manter o seu negócio de busca em grande parte inalterado,

35:12

Essa exigência de compartilhar a parte dos dados com os concorrentes é relevante, é interessante, mas não vai abalar o Google. E não por acaso as ações subiram mais de 8 % depois da divulgação do resultado. Ou seja, o mercado viu como uma coisa positiva a punição que o Google recebeu. Um aspecto bem relevante desse julgamento é que quando ele começou, que foi há mais de quatro anos, foi no outro governo Trump, no primeiro governo do Trump,

35:39

o Google era o líder do mercado de buscas de uma maneira avassaladora.  Então, era realmente um problema, poderia vir a ser um problema. Acontece que de lá para cá, a inteligência artificial explodiu, surgiu o chat EPT, a PrePlexit e o Cloud, e todas essas ferramentas de A passaram a brigar com o Google como a favorita, predileta dos usuários de fazer busca na internet.

36:07

Então o juiz diz que o cenário mudou, que o Google hoje tem uma ameaça real para o seu reinado nas buscas e que isso teve que ser levado em consideração na hora do julgamento. As coisas no mundo tech mudam muito rápido, né? Você pensar que há poucos anos, quando esse julgamento começou,  era barbada que o Google ia dominar, seguiria dominando as buscas e alguns anos depois isso mudou completamente. Google realmente está ameaçado por outras empresas.

36:36

O Brian Merchant, newsletter Blood in the Machine, muito boa sobre tecnologia,  diz que essa decisão acaba legitimando um sistema rentista, que sufoca os publishers, sufoca os criadores, sobretudo diante desse AI overview, que é esse resuminho, que o Google hoje gera, que acaba fazendo com que as pessoas não cliquem no link e não vá até a fonte original daquela informação e vai contribuindo para esse crescimento do Slop.

37:06

desse resultado gerado por IA muitas vezes uma grande porcaria.  E o Brian Merchant também criticou essa visão do juiz de que a chegada das ferramentas, do Chatbot, sendo usado como busca,  são uma ameaça para o reinado de busca do Google, porque, segundo ele, o Google é responsável por 373 vezes mais pesquisas que o Chat GPT e mesmo com a chegada da ferramenta do OpenAI, continua detendo 89 % do mercado.

37:35

Então, a verdade é que esse julgamento chegou, foi embora e o resultado já sai desatualizado. É muito difícil regulamentar Big Tech, tecnologia de maneira geral, porque as coisas mudam muito rápido. Então, o que fica como recado é que, apesar das intenções de regulamentar tantos aspectos da nossa vida digital, não é tão simples assim, porque a coisa é muito dinâmica. Então, o que parece é gente vai viver muito tempo nesse lugar aí...

38:04

nesse limbo, nessa dificuldade de saber o que é permitido e que não é permitido, até que as coisas se assentem de um lado ou de outro, normalmente prejudicando a ponta mais fraca. Mas é o que tem pra hoje.

38:24

Hora de relaxar com as dicas de ver, ler e ouvir.

38:34

Finalmente,  assisti We Crashed na Apple TV sobre a ascensão e queda do Adam Neumann, fundador da WeWork. Se é que dá pra chamar de queda o que o rapaz com a sua lábia invejável conseguiu. Eu falei da série quando saiu a notícia que ela ia ser lançada, só que só agora, quase quatro anos depois, eu parei pra ver. Tinha um pouco de preguiça porque eu já conhecia a história.

39:02

E eu resolvi assistir depois que eu vi no YouTube um trecho de uma cena da Anne Hathaway, que interpreta Rebecca Newman, é interpretada pelo Jared Little.  Realmente já tá dando um show a ele também.  E isso aí acabou me dando curiosidade de ver a série.  Não deve ter sido exatamente como tá ali que as coisas aconteceram, mas serve como uma fábula sobre como um talento pro blá blá blá pode levar alguém longe, às vezes longe demais, a própria queda.  E é muito bom pra refletir nesses tempos de promessas mágicas das empresas de ar.

39:38

Steve Lacey está de volta com Nice Shoes, seu primeiro single desde 2022.  Como sempre, a música foi escrita e produzida pelo próprio Steve Lacey, que costuma gravar discos inteiros diretamente no iPhone, usando o programa Garage Band, que o mesmo que eu uso pra gravar aqui, resumindo.  A música é a primeira prova do seu próximo álbum, chamado Oh Yeah!, depois do sucesso de Gemini Rites,  disco que rendeu um Grammy e um hit Bad Habit.

40:05

O Lacey parece que vai por um caminho menos pop agora. Estou esperando o disco sair.

40:15

Nesse episódio você ficou sabendo que o RESUMIDO vai continuar, mas com conteúdo completo só para assinantes,  que marcas apostam em vídeos cringe para viralizar,  que tem gente confundindo invenção de IA com realidade,  que a Anthropic concordou em pagar 1 bilhão e meio de dólares por treinar modelos com livros pirateados,  que o Google foi condenado a compartilhar dados de música com os concorrentes, que estão publicando músicas falsas geradas por IA nos perfis de artistas famosos e muito mais.

40:44

Se você gosta do RESUMIDO,  assine. www.resumido.cc/assinatura.  É muito importante que você faça isso para o RESUMIDO poder continuar,  além de poder crescer.  Outra forma de ajudar é você recomendar para mais gente. Posta nos seus stories, seu WhatsApp e também não deixa de curtir e assinar, seguir, cinco estrelinhas e deixar uma resenha na plataforma que você estiver escutando esse episódio agora.  Para quem gosta da brincadeira nos comentários do Spotify,  a palavra secreta da semana é

41:14

Assina!

41:19

RESUMIDO é produzido e apresentado por mim, Bruno Natal

O roteiro é escrito por mim e pelo Agenor Neto

O Cauê Marques co-edita a newsletter O Futuro Explicado e as redes sociais, que contam com animações do Peri Semmelmann e design do Felipe Araújo

A edição e mixagem é feita pelo Hugo Rocha

A foto da capa é do Jorge Bispo

E o tema original foi composto por Gustavo Silveira

Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!

Só pra quem assina, né?