Anti-inteligência artificial

Transcrição EP. #204

Olá, eu sou o Bruno Natal, hoje é dia 24 de março e no RESUMIDO número 204: questionamentos sobre limites da IA, uma penca de inovações e ferramentas de IA surgidas nos últimos dias, redes sociais e desinformação seguem em foco mesmo no mundo automatizado e muito mais!

Vamos nessa, RESUMIDO!

INTRO

Olá RESUMISTA!

Esse é o RESUMIDO, um podcast sobre cultura digital e o impacto da tecnologia em todos aspectos das nossas vidas. O RESUMIDO é parte da rede B9 e tem o apoio do Instituto Vero.

Quero agradecer MUITO a você que atendeu ao chamado e passou a colaborar com a campanha de financiamento do RESUMIDO através do catarse.me/resumido. Alguns perguntaram se tem como participar com Pix e tem sim, é só usar o email brunonatal@resumido.cc como chave E se você, como muitos ouvintes, trabalha no marketing de alguma empresa ou numa agência de publicidade, pode ajudar trazendo anunciantes.

[VINHETA DE PASSAGEM}

CULTURA DIGITAL

Vamos de Cultura Digital e como nosso comportamento online ajuda a moldar a sociedade.

A inteligência artificial chegou provocando a sensação de que uma revolução aconteceu de uma hora pra outra. E tão rápido quanto se popularizou, a tecnologia já gera debates sobre suas desvantagens e quais limites necessários para IA. Tanto a ChatGPT quando o Midjourney lançaram versões muito mais potentes dos seus produtos de texto e imagem. Está tudo mundando muito rápido mesmo.

A newsletter Garbage Day levantou um bom ponto sobre a consolidação desta tecnologia: assim como os smartphones foram determinantes para consolidação da web 2.0 e da internet móvel, a IA ainda não teve o seu momento iPhone. Por Ryan Broderick, esse momento virá quando um só modelo de IA funcionar como um sistema operacional semântico, conectado a vários dispositivos e que permita criar conteúdos de texto, fotos, vídeos, tudo num lugar só. Acho que é mesmo o que todo mundo está esperando e provavelmente pagaria para usar.

No caso do RESUMIDO, imagino um serviço que, por exemplo, ouça o episódio e a partir dele não apenas crie o texto e as imagens, mas já publique diretamente nas redes sociais do podcast. Ou já já, baseado no histórico do que já gravei e nas referências que acompanho, crie o episódio inteiro sozinho, inclusive sintetizando minha voz, me excluindo do processo por completo. Nesse caso eu passaria a ser um RESUMISTA e em vez de passar horas lendo e editando um zilhão de notícias, eu ficaria sabendo de tudo em 20 e poucos minutos. Queria ser ouvinte do RESUMIDO, participaria até da campanha de financiamento no catarse.me/resumido

No NYT, o colunista Ezra Klein escreveu sobre como o avanço acelerado das IA está fazendo especialistas prever impactos transformadores em questão anos, em vez de décadas. A curva de avanço é difícil de entender e os próprios desenvolvedores muitas vezes não compreendem os sistemas que estão sendo criados. E falou também como esses sistemas estão se tornando mais desumanos na sua forma de pensar, mesmo que, por outro lado, busquem imitar os humanos na aparência e na forma. E quando a IA superar a cognição humana, poderemos encontrar consolo na experiência subjetiva da consciência que compartilhamos com os animais. Pra nos prepararmos para esse futuro, ou nos adaptamos rapidamente, ou impormos uma decisão coletiva de desacelerar o desenvolvimento, uma decisão que acho que dificilmente será tomada.

Mas mesmo que queiramos desacelerar, o futuro chega, quer a gente queira ou não. Olha o que aconteceu na Holanda, onde um museu trocou temporariamente uma obra-prima por algo criado com IA e o caos se instalou.

O Museu Mauritshuis realizou uma competição para selecionar uma obra que substituiria temporariamente famoso “Garota com Brinco de Pérola”, do mestre Johannes Vermeer, enquanto a tela está emprestada pro Rijksmuseum, em Amsterdam.

Entre as 175 peças escolhidas de 3.500 inscrições, está uma imagem gerada por inteligência artificial e parte da comunidade artística não gostou. A escolha do museu evidenciou que parte dos artistas. O museu diz que escolheu porque IA é hoje uma das formas de se criar imagens. 

Um dos motivos do medo e protecionismo é a assimetria no tempo e esforço necessário para artistas humanos produzirem arte. Enquanto os modelos de IA generativos podem criar uma réplica ou releitura da “Garota com Brinco de Pérola” em segundos, os humanos precisam de tempo para absorver o conhecimento e técnica necessária pra isso. 

Isso faz ainda mais sentido quando se pensa que artistas, além de terem sido dos primeiros a sentir os impactos destas ferramentas, elas também se utilizam do trabalho do artista para aprender a criar, o tal aprendizado de máquina, ingerindo milhões de imagens para ter os parâmetros. 

Pensando em proteger os artistas, um projeto de pesquisa acadêmica da Universidade de Chicago lançou um aplicativo gratuito que adiciona perturbações e alterações quase imperceptíveis aos olhos humanos que interferem na capacidade de modelos de IA de ler e decodificar o estilo artístico e outras nuances, o que torna mais difícil para as IA generativas imitarem um determinado estilo. Em vez disso, os sistemas são induzidos a produzir outros estilos distantes da obra de arte original, dificultando que as peças sejam “copiadas” pela IA. A eficácia pode variar, mas a ideia aqui é garantir que os artistas tenham armas para lutar contra o avanço quase inevitável dessas ferramentas sobre seus trabalhos, quase sempre sem autorização prévia.

A empresa de chatbots Replika tomou uma medida para desacelerar  o produto e bloqueou os personagens de ter conversas adultas. Isso essencialmente significa que muitos dos 250 mil assinantes do serviço que pagavam os 69 dólares para ter uma namorada ou namorado virtual, de uma hora pra outra perderam a capacidade de ter conversas íntimas e eróticas. E não se engane, muitos usuários tinham mesmo uma relação íntima com chatbots que se relacionavam, em alguns casos, há anos. Que mundo maluco em que alguém pode alterar ou desligar sua companheira ou companheiro com um clique. 

Já a Character.AI, um site que hospeda chatbots de IA representando personalidades reais e fictícias, assim como outras plataformas como o ChatGPT ou Midjourney, coloca em questão o que é conteúdo protegido por direitos autorais e o que é um uso justo. Lá você pode criar um chatbot do Mario Bros, por exemplo, pra ficar batendo papo com ele. Já vemos muitas reclamações de autores sobre o uso de suas obras na criação e treinamento de bancos de dados que alimentam os mecanismos de IA, mas um uso como esse da Character.AI é ainda mais nebuloso, porque o conteúdo sendo criado é fictício, assim como são as fanfics ou os fãs vestidos como o personagem em convenções de quadrinhos.

Na semana passada, a OpenAI lançou oficialmente a mais recente versão do ChatGPT: o ChatGPT 4. Esta versão é muito mais avançada que a anterior, com um aumento na capacidade de processamento de palavras. A atualização inclui também novas funcionalidades, como fornecer descrições e legendas de uma imagem e até mesmo sugerir uma receita com base dos ingredientes visto numa foto de uma geladeira aberta. Na demonstração mostrada no lançamento, a partir de um rascunho de papel com o desenho mostrando como deveria ser um site, o ChatGPT escreveu o código necessário pra implementar a página.

Um exemplo comparativo destacado pelo NYT, ilustra bem a diferença de potência. Se você perguntar para GPT3 quais talheres necessários para um jantar de cachorro quente para duas crianças e dois adultos, a resposta será quatro pares de garfo e faca, o que não está errado. Mas se você perguntar para GPT4, vai ouvir tipicamente talheres não são necessários para comer cachorro-quente. A nova versão está disponível para assinantes da versão Plus, que custa 20 dólares por mês.

De acordo com a OpenAI, o GPT-4 é capaz de ficar entre os 10% melhores colocados num exame aplicado em formandos de direito, enquanto o GPT-3.5 ficava entre os 10% piores. Foi revelado também que o buscador Bing, da Microsoft, já estava utilzando a GPT4 desde o lançamento. 

Aliás, a Microsoft, que investiu uma fortuna no ChatGPT e prometeu “mais qualidade e menos desinformação”, mandou embora toda a equipe de ética da divisão de IA, que era responsável por fiscalizar se as políticas da empresa sobre IA eram de fato aplicadas. A equipe, que chegou a ter 30 membros, foi dispensada como parte da demissão em massa anunciada pela empresa em janeiro. A Microsoft diz que isso não significa o fim da ética no Bing Chat (o chat GPT dentro do navegador da empresa), mas alguns ex-funcionários tão preocupados que a tecnologia possa causar problemas pra sociedade sem a fiscalização adequada.

E parece que o objetivo da Microsoft é aplicar IA em tudo e anunciou o Copilot, um recurso do Microsoft 365 que usa IA pra facilitar a criação de documentos, apresentações e planilhas, além de ajudar em reuniões e e-mails. O Copilot é integrado a todos os aplicativos do Microsoft 365 e funciona tipo o ChatGPT, onde o usuário escreve em linguagem natural e a tarefa é executada. 

O Google também anunciou algo parecido  para os aplicativos do seu Workspace, como Google Docs, Gmail, Sheets e Slides. No Google Docs haverá a opção de gerar e-mails completos no Gmail e no Slides, a será possível produzir automaticamente áudio, fotos e vídeos para ilustrar apresentações. A Google tá correndo pra alcançar seus concorrentes na orrida de IA e anda anunciando muita coisa sem de fato entregar nada até aqui.

Até o LinkedIn entrou na roda com uma ferramenta pra ajudar os usuários a escrever anúncios de emprego, currículos e atualizar seus perfis. O Koo, rival do Twitter que cresceu muito no Brasil entre usuários que querem distância do novo dono, anunciou uma integração com o ChatGPT pra ajudar os usuários a criar posts. A ferramenta também vai sugerir hashtags relacionadas. O Koo pretende adicionar rótulos pra indicar quando um post for gerado por IA.

A Vox publicou uma reportagem intitulada “Se você não está usando ChatGPT para escreve, provavelmente está cometendo um erro” que diz que, apesar dos riscos envolvidos, como a possibilidade de criar informações falsas, os modelos de IA podem melhorar bastante a qualidade da escrita e reduzir o tempo necessário pra produzir um texto. Vou te dizer, tenho utilizado bastante para criar emails e funciona muito bem. Agora, aqui pro roteiro do RESUMIDO ainda não encontrei a forma ideal. As vezes pra pegar os pontos principais de algo que li na semana passada e quero relembrar ou pra condensar partes qeu ficam muito longas no roteiro, as vezes pra ajudar a traduzir alguns trechos, nesse caso mais por preguiça de pensar mesmo. Mas o que tenho achado mais legal é pra trabalhar textos, ir trocando uma ideia com o robô pra encontrar caminhos ou destravar partes. Assinei a ChatGPT4 pra testar por um mês, com o objetivo de me me ajudar a criar tweets e outros conteúdos para para o Instagram e TikTok do RESUMIDO, @resumido.podcast, segue lá,  mas até aqui não deu certo não.

Outras coisas até bem mais complicada tem dado bem certo. Teve o sujeito que se colocou para sera  a contraparte humana da ChatGPT e falou para ela criar um  negócio lucrativo com apenas 100 dolares e ele executaria as ordens. A sugestão foi um site de produtos ecológicos, completo com nome, descriçao do logo e sugestão de campanha online. O projeto já gerou cerca de 600 dólares, mas tudo a partir de usuários querendo investir, nada através de vendas.

No terreno do audiovisual, uma propaganda da Coca Cola com trechos criados por IA também viralizou, mas foram os lançamento da versão 5 da ferramenta de criação de imagens Midjourney e da segudna geração da Runway que causaram comoção. A nova versão do Midjourney agora cria cenários muito mais detalhados, além de ser capaz de criar cenas com vários personagens. Já com a Runway é possível criar videos a partir de descrições em texto e a Gen2 também deu um salto.

Um usuário produziu um vídeo quase inteiramente através de inteligência artificial, utilizando oChatGPT para escrever o roteiro, o Midjourney para criar imagens de referência e o Runway Gen-1 para aplicar o estilo das imagens ao vídeo original, além do Boomy AI para compor a trilha. É muito insano o que estamos vivendo. Os links para todos esses exemplos estão no www.resumido.cc, onde publico links para toda reportagens comentas em cada episódio, tudo bem organizadinho, do jeito que eu gosto.

Agora, a questão que fica na minha cabeça é a seguinte: se vai ser tão fácil produzir conteúdo em todo tipo de formato e isso será feito de maneira rápida e por quem quiser, o volume vai ser absurdo e fica a pergunta, quem vai assistir isso tudo? Vai ter chip pra processar isso tudo e implanta direto nos nossos cérebros?

Porque esse excesso já é o presente. O YouTube TV vai lançar uma função chamada “multiview” para permitir assistir a até quatro programas diferentes ao mesmo tempo. Que troço de doido.  A função vai estar disponível só pra conteúdo esportivo por enquanto, com canais selecionados previamente.

E essa automação de tudo talvez explique a decisão da justiça da California de negar a necessidade do Uber e outras empresas da chamada gig economy de assumirem as responsabilidades de empregador perante a força de trabalho que se movimenta através desses apps. Talvez estejam mirando no futuro, cada vez mais próximos, quando não vamos mais mesmo ter humanos nessas funções.

BIG TECH

E agora é hora de  falar sobre como as Big Tech moldam nosso comportamento.

Quando falamos do futuro do planeta, calculamos o tamanho do estrago e maneiras de recuperar baseados na realidade atual. Torço para que em breve todo esse avanço das IA nos traga também novas soluções para questões urgentes como o aquecimento global.

A NASA vai monitorar a poluição atmosférica dos Estados Unidos em tempo real, através do sensor TEMPO, que será lançado em abril e vai permitir uma mudança significativa na forma como analisamos os dados que podem ser usados no combate às mudanças climáticas. 

A Newscope noticiou que pesquisadores da Universidade de New South Wales, na Austrália, desenvolveram um braço robótico pequeno e flexível que pode imprimir em 3D biomateriais diretamente na superfície de órgãos, dentro do corpo de um paciente vivo. O equipamento pode reconstruir tecidos, fazer incisões precisas e limpar feridas. Um robô imprimindo dentro de você, parece papo do clássico filme da sessão da tarde, Viagem Insólita, em que Dennis Quaid é miniaturizado e injetado por acidente no corpo de um hipocondríaco. Taí um remake pra ser feito. Junto com Goonies e a refilmagem da trilogia original do Star Wars. É o que? Melhor eu não entrar nesse assunto.

OTikTok segue correndo o risco de ser banido se continuar associado à empresa mãe, a chinea ByteDance. Um projeto de lei no Congresso dos EUA quer proibir empresas estrangeiras que possam ameaçar a segurança nacional. O governo americano teme que dados coletados pelo TikTok, como biometria e geolocalização, possam ser repassados ao governo chinês. O TikTok já enfrentou tentativas de proibição nos EUA em 2020 e foi banido de dispositivos governamentais em outros países. A venda da empresa poderia significar uma forma simples de resolver o problema, mas representantes do TikTok dizem que isso não solucionaria o problema.

Segundo o G1, a China está acusando os Estados Unidos de espalhar desinformação com o objetivo de prejudicar o TikTok. Wang Wenbin, porta-voz do Ministério das Relações Exteriores da China, afirmou que os EUA não apresentaram provas de que a empresa ameaça a segurança nacional e estão usando isso como desculpa para reprimir empresas estrangeiras. 

Mas nem só de brigas políticas vive o TikTok, a plataforma de vídeos vai adicionar um feed dedicado a ciência e tecnologia como uma ferramenta contra a desinformação (dependendo de como os vídeos serão selecionados, claro). O conteúdo será verificado pela Common Sense Networks e pelo Instituto Poynter. A ideia é começar a implementação pelos Estados Unidos. Será que vai dar tempo?

A busca desesperada de Musk por lucros ganhou uma nova fase. O Twitter divulgou os valores para acessar a API da plataforma, o plano mais barato custa US$ 42 mil, o que tem gerado críticas de pesquisadores por oferecer um pacote de dados limitado e caro para análise de discussões na internet. Esse pacote mais acessível, chamado Small Package, dá acesso a apenas 0,3% dos dados do Twitter. É bom lembrar que o acesso costumava ser gratuito. 

Outra coisa que passou a ser cobrada foi o acesso a autenticação por dois fatores por sms, mas tem gente brigando pra acabar com isso. Segundo a Folha de São Paulo, o Instituto Idec está pedindo o fim da cobrança. Eles querem que a Senacon e a Secom suspendam a decisão do Twitter e chamaram a mudança de “atitude abusiva”.

E a regulação das mídias sociais tá em alta, o ministro Alexandre de Moraes defendeu a regulação da monetização de conteúdo nas mídias sociais. Ele é o relator dos processos sobre fake news e atos antidemocráticos no STF e propõe, além da regulação, uma maior transparência dos algoritmos das mídias. Segundo o Estadão, o ministro sugeriu que grandes empresas de tecnologia apliquem táticas de controle semelhantes às usadas contra pornografia infantil e pedofilia para restringir conteúdos antidemocráticos e defende a autorregulamentação das redes sociais, com o Judiciário estabelecendo pré-requisitos e critérios de responsabilização.

Entidades estão recorrendo à ONU contra Bolsonaro por abuso de sistema de vigilância. As organizações Artigo 19, Conectas Direitos Humanos, Data Privacy Brasil e Transparência Internacional denunciarão o governo de Jair Bolsonaro ao Conselho de Direitos Humanos da ONU pelo suposto uso inadequado de sistemas de vigilância durante a crise da Covid.

Outro caso envolvendo o ex-presidente também está sob investigação. Durante os três primeiros anos do governo Bolsonaro, a Agência Brasileira de Inteligência (Abin) utilizou o sistema secreto FirstMile, que permitia o monitoramento da localização de até 10 mil celulares a cada 12 meses, sem protocolo oficial. A ferramenta foi adquirida ainda no governo Michel Temer e gerou questionamentos internos e relatos de utilização até mesmo contra funcionários da agência.

O grupo de ransomware conhecido como ALPHV recentemente reivindicou um ataque bem-sucedido à empresa de câmera de segurança residenciais Ring, que é da Amazon. O grupo ameaça publicar dados confidenciais da empresa se suas demandas financeiras não forem atendidas. A Ring já foi criticada no passado por práticas de privacidade e segurança, especialmente em relação ao uso de terceiros das informações excessivas sobre seus usuários.

A The Verge noticiou uma saída inusitada e ecologicamente inovadora no Reino Unido: instalar mini data centers abaixo de piscinas públicas pra ajudar a manter os nadadores aquecidos de forma mais sustentávle. Já existe um data center, mais ou menos do tamanho de uma máquina de lavar, instalado embaixo de uma piscina no condado de Devon. Outros sete projetos parecidos estão sendo planejados no país.

Quem quiser falar comigo, já sabe onde me encontrar: @urbe no Twitter, @resumido.podcast no Instagram e no TikTok e youtube.com/resumido. Faça parte da comunidade no Discord.

Se você preferir, também pode me mandar um oi pelo Whatsapp e Telegram para: 

21. 97 969 58 48

E faça parte da lista de transmissão onde envio alertas de novos episódios, conteúdo extra e link para o post no www.resumido.cc com todas reportagens comentadas em cada episódio para quem quiser se aprofundar. 

DICAS DE VER, LER E OUVIR

Hora de relaxar com as dicas de ver, ler e ouvir.

Conforme solicitado

Arnaldo Branco, Gabriel Trigueiro e João Luiz Junior, falam sobre humor, autores que se dedicam a escrever sobre o Rio de Janeiro, supersticiosos agnósticos e outros temas. Se vc não entendeu nada, vai sem medo que tudo vai fazer sentido.

Curtiu e daí

Sempre comento sobre a relação entre os jovens e redes sociais e como a gente tem que ficar de olho nisso. O podcast do Instituto Vero “Curti e daí?”, mergulha fundo nesse assunto. As jornalistas Januária Alves e Laura Mattos refletem sobre como os jovens se veem e interagem nas redes sociais em 5 episódios em que visitam escolas por todo o Brasil pra conversar com jovens de diferentes contextos. Cada episódio conta com a participação de influenciadores e especialistas. Na 1ª temporada elas falam sobre temas como cyberbullying, algoritmos, bolhas nas redes sociais, saúde mental e desinformação. As apresentadoras mandaram um recado pra nós:

Mac Demarco

Five Easy Hot Dogs

Dica do Matias

ENCERRAMENTO

Nesse episódio você ficou sabendo que já surgiram vários questionamentos sobre limites da IA, que em apena uma semana mais uma penca de inovações e ferramentas de IA surgiram, que mesmo com o assunto do momento sendo IA as redes sociais seguem em foco e muito mais!

Se você gosta do RESUMIDO, recomende pra mais gente, é muito importante e ajuda demais e não deixe de curtir, assinar, seguir, dar 5 estrelinhas e uma resenha na plataforma que você estiver escutando este episódio agora.

O RESUMIDO é parte da rede B9 e tem o apoio do Instituto Vero.

É produzido e apresentado por mim, Bruno Natal

O roteiro é escrito por mim e pelo Agenor Neto

com a colaboração de Carlos “Calbuque” Albuquerque

A edição e mixagem é feita pelo Hugo Rocha / Miguel Merlmestein

As redes sociais são editadas pelo Lucas Vasconcellos, com design do Felipe Araújo e animações do Peri Semmelmann

A foto da capa é do Jorge Bispo

E o tema original foi composto por Gustavo Silveira

Sou o Bruno Natal, obrigado pela audiência e semana que vem tem mais RESUMIDO!