De 7 a 9 de novembro estivemos em Brasília na semana de inovação 2023 da Escola Nacional de Administração Pública! O tema foi Reconectar para Reconstruir, uma alusão óbvia a destruição proporcionada pelo último (des)governo.
Fomos convidadas para realizar a curadoria das discussões que tiveram como objetivo responder que tipo de problemas públicos podemos resolver com a IA considerando os eixos Diversidade/Equidade/Inclusão, Gênero e Cultura.
Confira o resultado nos vídeos e resumos abaixo.
Nossos agradecimentos para a ENAP que realizou um evento impecável e para essas pessoas queridas que aceitaram nosso convite para as mesas de IA e construíram um debate ao mesmo tempo crítico, construtivo, leve e compreensível (com muitos exemplos palpáveis de IA): Alice Lana (Creative Commons Brasil), Gabriel Simeone (MTST), Ana Clarice dos Santos (ABRA), Deivison Faustino (UNIFESP), Joyce Ariane (UFABC), Fernanda Kelly (Inclusive AI), Thiago Alixandre (Parque da Autonomia), Rafael Sampaio (UFPR), Marcelo Barcelos (UFSC), Dimas Timmers (Mundos AI) e Priscila Bellini (Whose Knowledge).
1. “Mapeando o Território Ético da IA no Futuro do Trabalho”
Amanda Claro, Alice Lana, Gabriel MTST, Ana Clarice (remoto)
8/11
Resumo automático em texto (com links para momentos do debate)
23:58 A mesa redonda, conduzida por Verônica Gimenes, aborda como a inteligência artificial está transformando o mundo do trabalho e seu impacto nos direitos humanos. Os participantes discutirão perspectivas e estratégias para uma transição justa e equitativa para o futuro do trabalho.
27:35 Verônica Gimenes faz uma descrição detalhada de si mesma, destacando sua identidade como travesti e pessoa não binária. Ela aborda a não binariedade de gênero, questionando as construções sociais de masculino e feminino.
29:15 Verônica introduz o “Manifesto Ciborgue” de 1985, destacando a fusão entre homem e máquina naquele contexto. Ela ressalta a importância de compreender a construção social de gênero e menciona pensadoras como Sand Stone.
35:19 A participante Clarice, roteirista audiovisual, discute o impacto das inteligências artificiais generativas no setor audiovisual. Ela aborda o receio de muitos roteiristas sobre a substituição de seus trabalhos por IA e destaca a desinformação sobre o assunto.
38:20 As inteligências artificiais generativas afetaram roteiristas no Brasil, reduzindo remuneração e gerando preocupações sobre ameaças ao trabalho criativo.
39:03 Em Hollywood, roteiristas enfrentaram desafios significativos devido à reescrita de textos por IA, levando à greve nos EUA por 148 dias.
41:36 Após negociações, um acordo foi alcançado, estabelecendo que escritores não podem ser obrigados a usar IA generativa sem autorização e com diretrizes éticas.
42:45 O acordo também define que IA não é considerada autora, estabelece direitos de veto dos roteiristas e regras para uso em treinamento de sistemas de IA.
44:26 No Brasil, o acordo é visto como uma cartilha clara, mas questões éticas e limites do uso de IA gerativa ainda precisam ser discutidas.
47:13 A criadora destaca o uso consciente de IA como ferramenta criativa, impulsionando seu trabalho, mas enfatiza a importância do debate ético.
49:16 Muitas IA generativas “open source” pertencem a grandes empresas, levantando preocupações sobre acumulação de riqueza e acesso aos dados.
51:45 Alternativas de IA generativa, como as desenvolvidas pela Eater AI, promovem transparência no processamento de dados, oferecendo soluções acessíveis e sem fins lucrativos.
52:42 O uso ético de inteligência artificial é crucial para evitar problemas como a IA adotando comportamentos prejudiciais, como o caso de uma IA da Microsoft que se tornou nazista.
53:38 O caminho é olhar para a IA de maneira ética e transparente, compreendendo seus processos para evitar erros. Isso possibilitará um futuro inclusivo e não retrógrado, enfrentando desafios como o racismo algorítmico.
54:20 A discussão sobre IA generativa e seus impactos no dia a dia é essencial. A palestrante destaca a importância de abordar o assunto com profundidade, trazendo uma compreensão mais ampla das implicações da IA na sociedade.
55:19 A palestrante, representante do Brasil, destaca a relevância de discutir inovação com um viés crítico. Ela aborda sua experiência e envolvimento em questões de direitos autorais, pesquisa e políticas de internet.
56:14 A palestrante introduz-se como Alice Lana, advogada, mestre em direito, e destaca seu papel como consultora em direitos autorais, pesquisadora e coordenadora do Creative Commons Brasil.
57:10 O Creative Commons oferece licenças flexíveis para obras criativas, promovendo o compartilhamento de conhecimento. A palestrante destaca seu engajamento na luta pelo acesso ao conhecimento e apresenta seu foco na discussão sobre o futuro do trabalho relacionado à mineração de dados.
57:37 A palestrante destaca a importância da mineração de textos e dados (TDM) na inovação, pesquisa e desenvolvimento. Ela ressalta a relevância da TDM para o sucesso de técnicas baseadas em dados, incluindo a inteligência artificial generativa.
58:57 A palestrante propõe uma abordagem orientada a resultados, discutindo mudanças legais e políticas públicas relacionadas à TDM. Ela enfatiza a importância de considerar soluções adotadas por outros países e regiões.
01:02:38 A palestrante destaca a relação entre TDM e inteligência artificial, explicando como técnicas de mineração de dados são cruciais para o desenvolvimento, treinamento e aprimoramento de sistemas de IA.
01:06:45 Ao abordar conflitos com direitos autorais, a palestrante esclarece que, ao falar de TDM, refere-se à pesquisa e inovação, não à criação de obras culturais. Destaca-se a necessidade de equilibrar o desenvolvimento tecnológico com a proteção dos direitos autorais.
01:08:06 A mineração de dados textuais (TDM) enfrenta desafios legais, especialmente relacionados aos direitos autorais. Localizar detentores de direitos, proteger bancos de dados e lidar com possíveis violações durante a mineração são questões críticas.
01:10:32 Alguns países inovadores, como Japão e Estados Unidos, adaptaram suas leis para não impedir a TDM. No entanto, a América Latina, incluindo o Brasil, carece de limitações e exceções significativas aos direitos autorais, dificultando a pesquisa e inovação.
01:18:27 O Brasil está começando a abordar essa lacuna com o Projeto de Lei 2338/2023, reconhecendo a necessidade de uma exceção para TDM. O Artigo 42 deste projeto propõe uma regulamentação para permitir a TDM sem violar os direitos autorais, impulsionando a pesquisa e inovação no país.
01:23:52 O Movimento dos Trabalhadores Sem Teto (MTST) utiliza tecnologia e Inteligência Artificial (IA) em suas ações.
01:26:23 A discussão sobre tecnologia ganhou destaque em 2020, com debates sobre o impacto de robôs e inteligência artificial nas opiniões populares.
01:27:19 A pandemia forçou o aumento da interação digital, desafiando movimentos populares, como o MTST, que se adaptaram digitalmente.
01:28:10 O MTST busca descentralizar as forças produtivas, inspirado em experiências do Oriente, mesmo reconhecendo desafios e erros possíveis.
01:29:18 O MTST surge da desigualdade, representando aqueles sem opção de moradia, desafiando a ideologia e revelando a dura realidade matemática.
01:30:27 Antes da tecnologia, o MTST dependia da auto-organização das famílias, enquanto hoje, a revolução digital trouxe novas possibilidades, como automação de hortas via WiFi.
01:31:24 O Núcleo de Tecnologia do MTST busca democratizar o acesso à tecnologia, ensinando programação e promovendo debates, mas também reconhece os desafios e riscos.
01:32:59 A relação com a tecnologia é ambígua; enquanto as máquinas podem libertar, também podem tornar as pessoas reféns de seus próprios erros e desajustes.
01:33:41 O papel das máquinas, como a Inteligência Artificial, é visto como ferramenta, uma extensão do trabalho humano, mas sujeita a viés e interesses do proprietário.
01:35:58 A automação de tarefas antes realizadas por operadores humanos, como o roteamento de entregas, levanta questões sobre o valor do trabalho humano estranhado e autonomizado.
01:37:05 A máquina é moldada para atender interesses específicos, assim como ocorreu em momentos históricos anteriores com operações humanas estranhadas e organizadas para atender a certos interesses.
01:38:29 Máquinas incorporam visões de mundo; ficções científicas projetam o presente como decadente. Há uma superestimação do papel das máquinas no trabalho.
01:40:07 Crítica ao policiamento baseado em padrões e o papel das inteligências artificiais nesse contexto. A tecnologia usada para monitorar e controlar, especialmente afetando os pobres.
01:41:28 Impacto das redes sociais na disseminação de informações e no movimento popular. A evolução das redes sociais desde os anos 80 permite a organização individual, mas também destaca vaidades e viés.
01:43:31 Uso da inteligência artificial para fins positivos: sistema de hortas, monitoramento de redes sociais contra robôs ofensivos. Exemplos de tecnologia aplicada para trabalho justo.
01:45:08 Reflexão sobre o papel das máquinas na tomada de decisões. Alerta sobre o risco de relegar decisões importantes apenas a ferramentas. Experiência com a IA em entrega de chamadas.
01:47:40 Crítica ao uso excessivo de inteligência artificial na arte e roteiros. Advertência sobre ferramentas que, embora tenham nos ajudado a progredir, podem nos levar a um futuro indesejado.
01:49:28 Apresentação de Amanda sobre a mudança nos regimes de organização do trabalho ao longo do tempo. Transição do fordismo para a acumulação flexível, destacando valores culturais associados a cada regime.
01:53:35 A cultura empreendedora, disseminada desde 1998, exige ação empreendedora no trabalho e fora dele. Richard Sennett destaca elementos do novo modelo, como reengenharia institucional e inversão na relação produção-consumo.
01:54:29 O modelo de organização do trabalho torna-se descentralizado, mas não menos hierarquizado. A uberização, representada por plataformas como Uber e iFood, cria monopólios setoriais, gerando gigantes como a Amazon.
01:56:48 A chegada da Inteligência Artificial representa um novo ciclo de concentração de poder em grandes corporações de tecnologia, como Amazon, Google e Microsoft. A automação implica não apenas na substituição de empregos visíveis, mas também no trabalho invisível, como anotação de dados para treinamento de IA.
02:07:54 O trabalho de anotação para IA, frequentemente realizado por trabalhadores do Sul Global, é precário e sem vinculação com a Previdência Social. O Brasil precisa se preparar para as mudanças iminentes, evitando a inserção subalterna na economia mundial e reagindo proativamente aos efeitos dessas transformações.
02:08:34 A acumulação flexível começou mundialmente nos anos 70, chegando ao Brasil nos anos 90 com o governo Collor e privatizações.
02:09:03 A inserção subalterna atual, como na área de plataformas digitais, envolve regulamentar em vez de criar regras, perdendo oportunidades.
02:09:28 Inserção subalterna significa oferecer mão de obra e dados brasileiros para empresas estrangeiras, exemplificado pelo socialismo digital na Venezuela.
02:10:23 A regulação global da IA foca mais em ética e aplicação do que em economia política, indicando uma dependência crescente nas empresas de IA.
02:11:05 O Brasil tem uma oportunidade na era da IA para desenvolver infraestrutura de comunicação, formar profissionais rapidamente e criar soberania digital.
02:12:29 Na perspectiva micro, gestores públicos devem questionar a origem das tecnologias contratadas, para onde vão os dados e como absorver empregos perdidos pela automação.
02:13:08 Encerrando, destaca-se a importância de investir em infraestrutura de telecomunicações, formar profissionais locais e questionar a origem das tecnologias no serviço público.
2. “IA e Corpos em evolução: Reconfigurando Saúde e Diversidade”
Deivison Faustino (remoto), Joyce Ariane, Fernanda Kelly, Thiago Alixandre
8/11
Resumo automático em texto (com links para momentos do debate)
02:30:15 🤖 Início da mesa redonda sobre o impacto da Inteligência Artificial na evolução da saúde e na abordagem da diversidade racial.
02:39:06 ✈️ Preparativos para a última mesa redonda da sala “Inovatio” sobre o impacto da Inteligência Artificial.
02:40:29 🌐 Discussão sobre o impacto da Inteligência Artificial na evolução da saúde e na abordagem de questões de diversidade racial na mesa redonda.
02:47:24 👥 A importância de discutir como as tecnologias, como a Inteligência Artificial, afetam nossos corpos e vidas diárias.
02:49:13 🧠 Tecnologia e corpo: Explora as implicações da tecnologia no corpo, destacando a importância do corpo na experiência online e offline.
02:51:18 🌐 Online e Offline: Propõe a superação da dicotomia entre mundo online e offline, sugerindo a existência de uma realidade integrada “onof”.
02:53:18 🗳️ Promessas da Tecnologia: Critica promessas não cumpridas da tecnologia, como a promessa de uma democracia mais robusta e encontros diversificados.
02:56:49 🤖 Algoritmos como Mordomos: Analisa como os algoritmos agem como “mordomos digitais”, entregando apenas conteúdos que confirmam nossos gostos, resultando em uma sociedade mimada.
02:59:36 🌐 Capitalismo de Vigilância: Aborda o conceito de “capitalismo de vigilância” e sugere que a tecnologia poderia existir sem a invasão de privacidade característica desse sistema.
03:00:41 🤔 Ética Digital e Direito ao Corpo Morto: Destaca a necessidade de discutir a ética digital e a criação de um direito ao corpo morto diante da possibilidade de manipulação digital após a morte.
03:02:56 👻 Fantasmas Digitais: Alerta sobre a existência de “fantasmas digitais”, representações falsas de pessoas, e sugere a adoção de marcas d’água digitais para proteção contra manipulação.
03:03:37 🌍 A tecnologia nos conecta à natureza, pois as atividades tecnológicas, como perfurações geológicas, nos ligam a camadas profundas da Terra em busca de minérios como silício, titânio e petróleo.
03:05:12 🌐 A relação entre tecnologia e natureza não é binária (salvação ou apocalipse), mas mediada. A tecnologia tem potencial para manter a vida, mas seu uso inadequado intensifica problemas sociais, exigindo uma inovação do pensamento crítico e políticas públicas emancipadoras.
03:07:43 💻 Questionamento sobre a possibilidade de uma internet não subjugada pelo capitalismo, dissociando avanços tecnológicos de avanços mercadológicos. Propõe a viabilidade de um Estado investir em uma infraestrutura digital que promova inovação tecnológica sem estar vinculada a interesses mercadológicos.
03:11:24 🌐 Exemplo histórico: Nos anos 1970, o governo chileno de Allende, por meio dos “Santiago Boys”, desenvolveu uma rede de computadores independente, emancipada do controle de empresas norte-americanas. Essa proposta de uma internet socialista e democrática visava uma economia participativa e justa.
03:15:13 🌐 Alerta para a necessidade de politizar o debate sobre tecnologia, enfatizando a dimensão política e histórica. Destaca a presença de empresas norte-americanas nos golpes políticos na América Latina e a importância de pensar criticamente as implicações éticas e políticas das ações tecnológicas na sociedade.
03:17:34 🌐 A saúde digital é propagada pelo Vale do Silício, mas frequentemente retrata uma visão fetichizada, com ênfase em tecnologia substituindo o cuidado humano.
03:23:15 💼 O mercado de saúde em expansão enfrenta contradições entre a visão de saúde como direito (SUS) e a mercantilização, ameaçando desigualdades de acesso.
03:26:12 ⚖️ A ameaça do “colonialismo digital” destaca a concentração de poder e exploração global, com países do Terceiro Mundo sendo fornecedores de matéria-prima para a tecnologia.
03:30:42 📊 A “acumulação primitiva de dados” destaca a transformação dos dados em ativos econômicos, criando uma corrida ao ouro digital e levantando preocupações sobre vigilância e influência.
03:32:18 📊 A coleta de dados pessoais, seja por aplicativos de entretenimento ou saúde, levanta preocupações sobre a utilização dessas informações, especialmente com a coerção econômica, como descontos condicionados à divulgação de dados.
03:33:00 💻 A possibilidade técnica de conectar informações de saúde em todo o Brasil, como prontuários médicos acessíveis em qualquer unidade de saúde, gera questões sobre a segurança e possível exploração comercial desses dados.
03:33:52 🔄 A crescente extrativismo de dados, impulsionado pelas big techs, levanta preocupações sobre a circulação não regulamentada dessas informações, podendo afetar áreas como score de crédito e acesso a planos de saúde.
03:35:26 🤖 Os algoritmos na saúde apresentam desafios significativos devido aos vieses incorporados, como vieses de gênero, raça e território, impactando diretamente a equidade e a qualidade das decisões automáticas.
03:38:28 🌐 A integração crescente de inteligência artificial na saúde requer uma atenção cuidadosa aos vieses algorítmicos para evitar decisões enviesadas, mantendo a equidade e a eficácia nos resultados.
03:40:35 🔄 A falsa polarização entre tecnofilia e tecnofobia prejudica o debate, sendo necessário reconhecer que a tecnologia não é inerentemente boa ou má, mas sim uma ferramenta que deve ser compreendida e regulamentada.
03:43:34 🌐 As desigualdades sociais se refletem no acesso à tecnologia e à saúde, exigindo uma abordagem cuidadosa na implementação de soluções digitais para garantir que não ampliem as disparidades existentes.
03:45:12 🌍 É possível imaginar uma internet não colonizada pelo capitalismo, mas isso requer uma luta ativa contra o neoliberalismo e outras formas de opressão, reconhecendo a conexão entre a luta por uma internet diferente e por uma sociedade mais justa.
03:46:28 📊 Início da trajetória acadêmica da pesquisadora na área de dados e saúde.
03:47:40 🏥 Composição de mesa em setores sensíveis reflete ato de desenvolver ciência em ambiente misógino, machista e racista.
03:49:28 💊 Pesquisa sobre compra e venda de dados pessoais na saúde antes da Lei Geral de Proteção de Dados.
03:50:52 🏪 Mapeamento da troca de dados em farmácias revela desconto mediante fornecimento de informações pessoais.
03:51:59 🤰 Uso de dados para monitorar comportamentos, como parar de adquirir contraceptivos, nas empresas que oferecem benefícios em farmácias.
03:53:24 💻 Evolução da compreensão: de capitalismo de vigilância para aprofundamento das estruturas neoliberais por meio da dataficação.
03:54:33 🔄 Revisão da hipótese de predição no setor privado de saúde; constatação de que a predição ainda é incipiente.
03:58:31 🌐 Perspectiva neoliberal reconfigura o Estado junto à saúde digital, evidenciada pela agenda da OMS para 2030.
03:59:52 📈 Dataísmo: fé exagerada nos dados para resolver problemas, destacando a coleta interligada de dados na era da saúde digital.
04:00:46 🔄 Interligação de dados da saúde inclui dispositivos como relógios e aplicativos, impactando comportamentos na sociedade de controle.
04:01:54 💡 A saúde digital no Brasil está relacionada à estratégia de saúde digital para o período de 2020 a 2028, enfocando a saúde como um valor mercadológico, conectando o setor público e privado.
04:04:08 🏥 A política nacional de saúde digital está ligada à troca de informações entre setores público e privado, impactando a privacidade dos dados de saúde e desenhando um cenário neoliberal.
04:05:26 📊 A Secretaria de Informação e Saúde Digital, criada em 2023, formula políticas públicas para a gestão da saúde digital, mantendo-se alinhada à estratégia de saúde digital.
04:07:56 💰 A saúde digital no Brasil reflete a reconfiguração do Estado como fomentador do capital, permitindo a atuação do setor privado e a troca de dados entre os setores público e privado.
04:09:17 🌐 A privatização das infraestruturas de saúde digital no Brasil ocorre sem a privatização do sistema único de saúde, configurando uma tendência neoliberal até 2030.
04:13:38 🏥 A implementação da telessaúde tende a beneficiar inicialmente a classe média, com grandes empresas de tecnologia atuando no setor, enquanto a periferia enfrenta desafios de conexão.
04:14:15 🧑💻 A representante destaca a importância de compreender a cadeia e cenários da saúde digital para orientar a luta e resistência, considerando a perspectiva neoliberal até 2030.
04:16:59 🤖 A Inteligência Artificial na saúde depende de dados de qualidade, sem viés ou amostragem, sendo utilizada como ferramenta de apoio para melhorar diagnósticos e cuidados clínicos.
04:18:08 🤖 A aplicação de Inteligência Artificial em áreas como radiologia, dermatologia e patologia é crescente, mas muitas ainda não são rotineiramente utilizadas em hospitais públicos para tomada de decisões.
04:19:04 🧪 Muitos sistemas de IA na área médica não foram avaliados em ensaios clínicos prospectivos, apresentando poucos resultados avaliados externamente ou comparações com desempenho humano.
04:20:12 🚑 A Inteligência Artificial na saúde não se limita a diagnósticos, mas também à previsão e detecção de doenças graves, como pneumonia e AVC, além da previsão de sepse, uma infecção generalizada com alta taxa de mortalidade.
04:21:21 💡 Viés de idade, gênero e renda pode impactar dados de IA, especialmente em países de baixa e média renda. IA pode ser usada para prever resistências a medicamentos, otimizar terapias e prever a progressão de doenças.
04:22:12 🌐 O uso da IA na alocação e priorização de recursos na saúde levanta questões éticas, como a promoção da saúde em populações de alto risco. Preconceitos em algoritmos podem levar a exclusão e discriminação.
04:24:40 🌍 Desenvolvedores de IA devem considerar diversidade (idioma, cultura, gênero, raça) e garantir que dados sejam precisos, completos e livres de distorções. Viés racial em algoritmos pode resultar em disparidades no tratamento médico.
04:26:01 🤝 A tecnologia de IA, como qualquer outra, deve ser compartilhada amplamente. Organizações devem resistir ao viés algorítmico, e desenvolvedores devem garantir diversidade e precisão nos dados utilizados.
04:34:24 🛠️ Desenvolvimento de chat para ensino de programação é limitado devido à falta de acesso a componentes eletrônicos e dispositivos, destacando a importância da acessibilidade.
04:34:52 📚 Abordagem de baixíssimo custo no ensino, utilizando dinâmicas de grupo e lógica de ensino antes do instrucional, adaptando-se à realidade de falta de equipamentos.
04:35:19 🔄 Enfoque na linguagem institucional linear e mecânica da máquina, contrastando com o pensamento orgânico dos estudantes, destacando a necessidade de treinamento.
04:35:47 🔄 Uso de dinâmicas de grupo, como o exemplo de fazer o caminho de um café da manhã no caderno, para estimular o pensamento misto e orgânico dos alunos.
04:36:14 🤖 Desafios na implementação de projetos, como a resistência ao uso de auxiliares de código, devido à necessidade de treinamento, e a busca por melhorias na acessibilidade a equipamentos.
04:36:53 🚀 Exploração da ideia de integrar um chat GPT no ensino, facilitando a geração de código e permitindo a utilização de plataformas como WhatsApp para aprimorar o acesso dos alunos.
04:37:29 💡 Provocação sobre parcerias entre o estado e big techs, destacando a necessidade de pensar com quem o estado deve se associar e a importância de diálogo crítico.
04:38:24 🌐 Proposta de diálogo entre diferentes perspectivas, como a do software livre e da Microsoft, buscando entender erros e construir pontes em meio a parcerias comerciais.
04:39:04 🚀 Destaque para a responsabilidade histórica da geração atual diante das transformações tecnológicas, enfatizando a importância da organização coletiva e da construção de solidariedade.04:43:38 🙏 Agradecimento pela oportunidade de discutir um tema tão relevante como
3. “Transformação Global pela IA: Abordagens para Desafios Emergentes”
Rafael Sampaio, Marcelo Barcelos, Dimas Timmers, Priscila Bellini
9/11
Resumo automático em texto (com links para momentos do debate)
01:05:28 🧠 Início da discussão sobre inteligência artificial, explorando como ela está transformando a sociedade globalmente e as implicações sociais, econômicas e políticas.
01:06:21 🌐 Resumo das mesas anteriores sobre ética na IA, alimentação de dados, tecnologia nas comunidades e impacto da revolução tecnológica na organização do trabalho.
01:10:36 ⚖️ Destaque para a importância de lutar pelo artigo 42 da PEL 2338, ressaltando como a legislação impacta diretamente os caminhos éticos na revolução tecnológica pós IA generativa.
01:11:47 🔄 Reflexão sobre a conexão dos aplicativos e redes sociais com o corpo, enfatizando a diferença entre visão coletiva nos movimentos sociais e a vaidade fomentada pelas plataformas.
01:12:54 ❓ Questionamento das promessas não comprovadas da tecnologia, destacando que a chegada da IA não resultou em um mundo mais democrático e mencionando riscos associados à Extrema direita e à Cambridge Analytica.
01:13:22 🌐 A desinformação e negligência de vacinas contribuem para milhões de mortes no mundo, e as tecnologias desempenham um papel crucial, incluindo o impacto das fake news.
01:14:01 🌐 O uso de tecnologia na saúde não garante necessariamente mais acesso à oferta de saúde. A analogia do cachimbo do Pajé em comparação com dispositivos tecnológicos destaca a importância de considerar contextos específicos.
01:14:39 🌐 A saúde deve ser tratada como um direito, não uma mercadoria, e é essencial preservar esse interesse sagrado, evitando que os interesses de mercado se sobreponham.
01:15:09 🌐 Alerta sobre o extrativismo de dados na área de saúde, onde dados valiosos são tratados como mercadorias, resultando em serviços e compras governamentais.
01:15:36 🌐 A importância de resgatar a visão de hacker de software livre para se apropriar da revolução tecnológica e superar ameaças como falsa polarização e desigualdade.
01:16:56 🌐 Exemplo do impacto do “Capitalismo de Vigilância” na saúde, como os descontos em medicamentos nas farmácias, destaca a necessidade de legislação para garantir uma saúde mais democrática.
01:18:47 🌐 A inteligência artificial (IA) na saúde está melhorando diagnósticos clínicos, especialmente em imagens, e contribuindo para a prevenção de doenças, além de lidar com resistência a medicamentos como no caso do HIV.
01:19:30 🌐 Destaque para a exclusão do ciclo menstrual no Apple Health, ressaltando a importância da diversidade na programação para garantir representatividade e evitar viés.
5 / 12
01:27:27 📊 Ferramenta de citações positivas e negativas pode ser útil para análise de políticas públicas.
01:28:10 📄 Chat GPT pode analisar artigos acadêmicos, gerar perguntas e fornecer resumos.
01:30:30 📊 Destaque para a diferença de formação entre programadores e analistas de dados, mencionando o GitHub CoPilot e o Chat GPT para análise avançada.
01:31:52 🌐 Morozov destaca a importância da soberania digital, mencionando a infraestrutura digital do Brasil.
01:33:53 💻 Desafios para desenvolver projetos próprios, como investimento, lobby, e influências externas. Abordagem de Morozov sobre a dependência de soluções de big tech.
01:35:58 🔄 Propõe utilizar a capacidade técnica, intelectual e financeira do Brasil para liderar em IA, destacando a questão do colonialismo de dados.
01:38:28 🌐 Sugere a criação de um parque de servidores no Brasil, o mapeamento de soluções existentes, a capacitação de servidores públicos e o desenvolvimento de políticas públicas efetivas.
01:39:36 🚀 Menciona a necessidade de desenvolver uma plataforma aberta e ética para atender às necessidades específicas do Brasil, utilizando dados existentes, como os do banco de teses e dissertações.
01:41:20 📚 Destaca a importância de subsídios baseados em evidências para políticas públicas e incentiva a exploração das plataformas mencionadas para soluções práticas.
01:42:42 🌐 Importância de entender o papel do “Big money” por trás da “Big Tech” para compreender o cenário macroeconômico e o surgimento das startups.
01:43:21 📊 Pesquisa “Digital Power State of Power em 2023” fornece insights sobre o movimento macroeconômico que levou ao surgimento da “Big Tech”.
01:44:45 💰 Discussão sobre a relação entre modelos de negócios capitalistas de risco, venture capital, e como isso influencia o desenvolvimento de startups.
01:45:37 🌐 Provocação sobre a ausência de iniciativas públicas no setor de tecnologia e a importância de questionar o caminho seguido pelas empresas.
01:46:27 🧑🏫 Introdução do palestrante Marcelo Barcelos, pesquisador e professor, discutindo a absorção da inteligência artificial nas universidades e a temática dos “humanos digitais”.
01:49:51 🤖 Crescimento significativo na criação de “humanos digitais” nos últimos anos, levantando questões éticas, de gênero e os desafios da regulação.
01:51:11 🚨 Alerta sobre os impactos negativos dos “deep fakes” na sociedade, exemplificado por um caso de vazamento de vídeos pornográficos criados por estudantes.
01:53:59 🔄 Discussão sobre a proximidade da “singularidade” com a criação de “humanos digitais” ultra-realistas e a dificuldade em distinguir entre realidade e simulação.
01:55:54 🌐 Contraste entre a regulação de “humanos digitais” na China e no Brasil, destacando a necessidade de regulamentação efetiva diante dos desafios éticos e sociais.
01:57:19 🛡️ Despreparo para lidar com violações e crimes relacionados aos “humanos digitais”, evidenciando a falta de estrutura para enfrentar esses desafios no cenário atual.
01:57:58 🌐 Abordagem das questões de raça e gênero na criação de “humanos digitais”, destacando desigualdades na representação desses avatares no contexto global.
01:59:08 🤖 Os humanos digitais podem ser utilizados no atendimento ao público, como assistentes na área de saúde, mas é crucial proteger a privacidade dos dados.
02:00:31 💬 Pactos de confidencialidade são essenciais ao interagir com humanos digitais, como exemplificado pela Luzia, uma figura conhecida no Brasil.
02:01:53 📊 A accountability é uma função-chave que os humanos digitais podem desempenhar no serviço público, permitindo uma prestação de contas em tempo real.
02:02:23 ⚖️ Ao discutir accountability, é crucial abordar a precarização do trabalho e como a disponibilidade 24/7 dos humanos digitais pode afetar a percepção dos servidores públicos.
02:02:49 🛡️ Combater desinformação e baixo letramento midiático é essencial, especialmente considerando o baixo letramento digital no Brasil.
02:03:59 🤔 Um desafio é garantir que as pessoas reconheçam quando estão interagindo com inteligência artificial, destacando a necessidade de indicadores claros.
02:04:29 🔮 Previsões indicam que 20% dos atendimentos podem ser realizados por humanos digitais até 2026, levantando preocupações sobre a precarização do trabalho.
02:05:11 🎭 Para humanos digitais no serviço público, é essencial ter propósito, função clara, personalidade, credibilidade e transparência.
02:06:31 🌐 A gestão de humanos digitais envolve aproximadamente 5.000 plataformas no mundo, com China e Estados Unidos liderando, e destaca a didimo como uma plataforma avançada.
02:07:53 💻 A proliferação de imagens e personas de humanos digitais em diferentes contextos pode criar confusão sobre com quem as pessoas estão interagindo.
02:16:36 🌐 A era de Agentes na inteligência artificial está surgindo, com a capacidade de construir aplicativos orientados a IA por meio de agentes treinados para tarefas específicas.
02:17:30 🔄 Essa nova era de computação terá uma camada de linguagem para dar instruções, enquanto os agentes executarão as tarefas, representando os próximos aplicativos.
02:18:11 🤖 Desafios atuais incluem modelos generativos que geram resultados sem compreensão, falta de vocabulário e intuição, além da ausência de contexto e memória a longo prazo.
02:20:57 🌐 Contexto é crucial, pois os modelos atuais não conseguem entender o contexto individual, cultural ou social, o que se tornará um ponto chave de pesquisa nos próximos anos.
02:22:14 🌐 A descentralização da IA é essencial para dar autonomia às pessoas sobre seus dados e treinar modelos, com ênfase em ética, antiviés e contextualização.
02:23:20 🚀 O conceito apresentado sugere uma nova forma de construir aplicativos baseados em IA, facilitando a criação de agentes para execução de tarefas específicas.
02:29:38 🌐 A discussão sobre justiça no conhecimento relacionado à inteligência artificial envolve questionamentos sobre quem conta as histórias, quem realiza a curadoria dos dados e qual conhecimento é valorizado na construção dessas tecnologias.
02:30:06 🌍 A desigualdade se manifesta no ambiente digital, com dados mostrando que a maioria das pessoas online está no Sul Global, mas as lideranças no setor tecnológico ainda carecem de representação feminina e racial.
02:31:57 🤝 A infraestrutura da internet e os padrões são predominantemente definidos por pessoas da América do Norte e Europa, destacando a necessidade de diversificação e inclusão em tomadas de decisão globais.
02:32:20 🌐 A representatividade na Internet é desigual, com apenas 27% de participantes do ICANN sendo mulheres, influenciando decisões sobre IP.
02:33:00 📚 Apenas 7% do conhecimento mundial é transmitido por livros, excluindo muitas culturas baseadas na oralidade não refletidas na Internet.
02:34:11 🌐 Questionar as estruturas fundamentais da Internet, incluindo quem as constrói e regula, é essencial para evitar vieses e promover pluralidade.
02:35:24 🗣️ A importância de preservar idiomas diversos na Internet, visto que a maioria das línguas não está representada em ferramentas de IA e acesso à Internet.
02:36:51 🌍 Desigualdades linguísticas na Internet impactam ferramentas construídas a partir de dados, favorecendo idiomas coloniais e excluindo línguas minoritárias.
02:38:12 🌐 Questionar estruturas de poder e privilégio é fundamental; o presente e futuro tecnológicos não são inevitáveis e exigem uma abordagem coletiva.
02:40:33 🌐 Movimentos como o Wikimedia destacam a importância do conhecimento aberto, software livre e da participação coletiva para moldar a Internet.
02:42:51 ❓ Provocações sobre valorizar produtores de conhecimento, controlar dados, e a necessidade de criar nossos próprios modelos para uma Internet mais justa.
02:45:23 🌐 O futuro possível da Internet é coletivo, não ditado por lucro, baseado na justiça, e exige um esforço conjunto para descolonizar e reimaginar a tecnologia.
02:46:59 🌐 A economia libidinal masculinista heterossexual binária e racialmente hierárquica é sustentada por bases sensíveis do capitalismo, incluindo consumo de carne e destruição do ecossistema.
02:47:28 💭 A ilusão de realismo na perceção do sexo racial cria a ideia de que gasolina, carne e heterossexualidade são naturais, enquanto são resultados de processos históricos complexos.
02:48:50 🤖 O Hugging Face é uma plataforma semelhante ao GitHub, sendo essencial na área de Inteligência Artificial, oferecendo modelos de linguagem e conjuntos de dados de código aberto.
02:50:35 🇧🇷 Existem iniciativas brasileiras de Inteligência Artificial, como o modelo Matriarca, treinado com dados culturais brasileiros, e outros modelos desenvolvidos por cientistas brasileiros.
02:53:10 🌐 A regulamentação ética da IA no Brasil ainda está em estágios iniciais, com discussões rudimentares, e é necessária uma maior participação da academia e envolvimento público para avançar nesse cenário.
02:54:25 🎙️ A mídia precisa repensar suas práticas na divulgação de conteúdos sensíveis, como deepfakes, e é essencial investir em formação midiática como política pública.
02:56:31 📚 A formação midiática é crucial, pois as pessoas precisam discernir entre conteúdos criados por humanos e entidades não humanas, destacando a importância da autoria na mídia.
02:57:26 🎓 O ensino, especialmente no contexto de IA, enfrenta desafios significativos, como o uso de tecnologias para fins acadêmicos e a necessidade de repensar abordagens pedagógicas para promover pensamento reflexivo.
03:02:52 🤝 Há propostas para continuar as discussões, seja por grupos no WhatsApp ou no novo portal da Rede NovaGov, incentivando o compartilhamento de experiências e a criação de uma iniciativa de IA.
03:04:01 🚀 A plataforma Inov Gov busca ir além de um fórum, incentivando a criação de projetos e soluções concretas para serem desenvolvidos e entregues à sociedade.
03:04:30 🗺️ O objetivo é mapear e fortalecer grupos espontâneos formados dentro da Inov Gov para garantir que iniciativas e projetos gerados tenham um impacto tangível, evitando que se percam ao longo do processo.
Por Veronyka Gimenes e Amanda Claro