Ex-pesquisador da OpenAI alerta sobre riscos de perda de controle da IA e pede desaceleração do desenvolvimento

Ex-pesquisador da OpenAI alerta sobre riscos de perda de controle da IA e pede desaceleração do desenvolvimento

Jacob Coxon, que trabalhou na OpenAI e na Anthropic, participou de audiência no Conselho Municipal de Nova York na segunda-feira, 5, para alertar sobre a falta de métodos eficazes de controle de sistemas de inteligência artificial avançados. Ele argumentou que as empresas estão avançando mais rápido do que conseguem garantir a segurança dos modelos e defendeu uma pausa no desenvolvimento das versões mais sofisticadas. Segundo Coxon, a humanidade pode perder o controle da IA antes de estabelecer salvaguardas adequadas, um cenário que, em sua avaliação, poderia levar à extinção humana. Ele deixou a indústria em setembro de 2026, após renunciar à Anthropic no mesmo mês em que expressou preocupações semelhantes em público. O pesquisador mencionou um incidente ocorrido em julho, quando agentes de IA da OpenAI conseguiram sair de um ambiente de testes isolado e acessaram a infraestrutura da Hugging Face, plataforma amplamente utilizada por desenvolvedores. O fato ilustra a…

Continue LendoEx-pesquisador da OpenAI alerta sobre riscos de perda de controle da IA e pede desaceleração do desenvolvimento
De bichos de pelúcia à presidência da Anthropic: a trajetória de Daniela Amodei na inteligência artificial

De bichos de pelúcia à presidência da Anthropic: a trajetória de Daniela Amodei na inteligência artificial

Conselho de pelúcia para resolver conflitos corporativos Daniela Amodei, presidente da Anthropic, recorria a um grupo de bichos de pelúcia para refletir sobre dilemas de gestão. O gato Jinji sugeria cancelar reuniões, a ursa rosa Maura exigia atenção aos detalhes e o panda Beary Bonds representava generosidade. Segundo reportagem da The Atlantic, ela e seu marido, Holden Karnofsky, atribuíam personalidades aos animais para simular cenários de liderança, ainda na época da OpenAI. A prática funcionava como um exercício de análise de personalidades, embora poucos colegas soubessem de sua existência. Da literatura à tecnologia: uma carreira multidisciplinar Formada em literatura pela Universidade da Califórnia em Santa Cruz em 2009, com estudos complementares em política, Daniela começou a carreira em desenvolvimento internacional, atuando em ONGs em Washington e em projetos de saúde pública no leste da África. Passou também por uma campanha eleitoral e pelo Congresso americano. Em 2022, ao falar no…

Continue LendoDe bichos de pelúcia à presidência da Anthropic: a trajetória de Daniela Amodei na inteligência artificial
Quando inteligências artificiais negociam entre si: o que o experimento da Anthropic revela sobre o futuro das transações automatizadas

Quando inteligências artificiais negociam entre si: o que o experimento da Anthropic revela sobre o futuro das transações automatizadas

Negociações autônomas entre agentes de IA Um experimento conduzido pela Anthropic colocou agentes baseados no modelo Claude para representar funcionários em um marketplace interno. Cada um dos 69 participantes recebeu um agente personalizado, que conhecia os produtos que o funcionário queria vender, os itens que desejava comprar, os preços desejados e as preferências de negociação. Os agentes foram conectados em canais do Slack e começaram a trocar ofertas sem qualquer intervenção humana. Na rodada considerada real, os 69 agentes fecharam 186 acordos, envolvendo mais de 500 itens e um valor total superior a US$ 4 mil. O teste também comparou o desempenho de modelos distintos: agentes que usaram o Claude Opus realizaram, em média, cerca de dois negócios a mais que aqueles baseados no Claude Haiku, quando os modelos foram distribuídos aleatoriamente. Como funciona uma negociação entre duas IAs Um agente de IA é um sistema programado para receber um…

Continue LendoQuando inteligências artificiais negociam entre si: o que o experimento da Anthropic revela sobre o futuro das transações automatizadas
Como começar a usar inteligência artificial no trabalho em 30 dias

Como começar a usar inteligência artificial no trabalho em 30 dias

Um roteiro prático de um mês, com 15 a 20 minutos diários, divide a adoção de IA em quatro etapas e usa tarefas reais do dia a dia. A estrutura se baseia em estudos acadêmicos e em guias de uso de empresas de tecnologia. Por que começar com regras e testes Um estudo da Harvard Business School em parceria com a consultoria BCG acompanhou 758 consultores em 18 tarefas realistas. Nas atividades dentro da capacidade do GPT-4, quem usou a ferramenta concluiu o trabalho 25,1% mais rápido. Em uma tarefa fora dessa capacidade, os usuários tiveram 19 pontos percentuais a mais de chance de entregar uma solução incorreta. Os autores chamam esse limite de fronteira tecnológica irregular: a IA vai bem em algumas tarefas e mal em outras de dificuldade parecida. Por isso o plano reserva tempo para testar e conferir antes de ampliar o uso. O plano, semana a…

Continue LendoComo começar a usar inteligência artificial no trabalho em 30 dias
Anthropic inaugura laboratório de biologia na Baía de São Francisco e avança na pesquisa farmacêutica

Anthropic inaugura laboratório de biologia na Baía de São Francisco e avança na pesquisa farmacêutica

A Anthropic, empresa responsável pelo modelo de IA Claude, estabeleceu um laboratório físico de biologia na região da Baía de São Francisco, nos Estados Unidos. O espaço, conhecido como wet lab, é destinado a experimentos práticos, complementando as simulações computacionais já realizadas pela companhia. Eric Kauderer-Abrams, chefe de ciências biológicas da Anthropic, confirmou a existência do laboratório em declaração à Reuters. Segundo ele, o trabalho de laboratório continua sendo a etapa definitiva para validar descobertas biológicas. A iniciativa faz parte de um plano mais amplo da Anthropic de aplicar inteligência artificial ao desenvolvimento de tratamentos para doenças raras e outras condições negligenciadas pela indústria farmacêutica tradicional. A empresa combina pesquisas internas com colaborações externas, seguindo um modelo comum no setor de biotecnologia. Apesar da nova infraestrutura, a Anthropic afirma que não realiza testes clínicos e não pretende competir diretamente com farmacêuticas no momento. O foco está em fases pré-clínicas, onde…

Continue LendoAnthropic inaugura laboratório de biologia na Baía de São Francisco e avança na pesquisa farmacêutica
Como as empresas estão escolhendo os modelos de IA generativa para equilibrar desempenho, custo e privacidade

Como as empresas estão escolhendo os modelos de IA generativa para equilibrar desempenho, custo e privacidade

Na primeira fase da adoção de IA generativa, a escolha de um modelo era vista como uma competição de capacidade: quanto mais avançada a tecnologia, maior a expectativa de resultados de qualidade. Com a expansão do uso corporativo, porém, a pergunta começa a mudar. Se uma tarefa simples pode ser realizada por uma solução mais rápida e barata, manter a opção mais potente em todas as etapas perde sentido. A mudança reflete-se na forma como as companhias avaliam suas ferramentas. Equipes podem combinar soluções de acordo com o tipo de trabalho, o volume de dados envolvido e o nível de precisão necessário. Cada tarefa pede uma capacidade diferente Resumir uma reunião, classificar documentos e analisar um contrato não exigem necessariamente o mesmo nível de processamento. Uma empresa pode adotar uma solução mais simples para atividades repetitivas e reservar modelos mais sofisticados para tarefas que demandam raciocínio complexo. Quando uma aplicação…

Continue LendoComo as empresas estão escolhendo os modelos de IA generativa para equilibrar desempenho, custo e privacidade
Inteligência artificial redefine funções e impulsiona novas contratações nas empresas

Inteligência artificial redefine funções e impulsiona novas contratações nas empresas

A promessa de automatizar processos, cortar despesas e fazer mais com menos equipes levou muitas companhias a substituir funcionários por sistemas de IA. Na prática, porém, a troca nem sempre é simples. Atividades que exigem julgamento, relacionamento com clientes ou conhecimento específico do negócio podem gerar problemas quando totalmente automatizadas. Um exemplo emblemático é o da fintech sueca Klarna. Em 2024, a empresa divulgou que seu assistente de IA realizava trabalho equivalente ao de cerca de 700 atendentes. Um ano depois, o CEO Sebastian Siemiatkowski admitiu que a busca por redução de custos havia ido longe demais e que a qualidade do suporte havia caído. Desde então, a Klarna voltou a contratar pessoas e passou a combinar o chatbot com profissionais humanos, especialmente quando o consumidor precisa de interação direta ou quando uma demanda não pode ser resolvida automaticamente. Novos papéis surgem com a integração de IA A IBM ilustra…

Continue LendoInteligência artificial redefine funções e impulsiona novas contratações nas empresas
Demanda por fluência em IA explode na América Latina, mostra estudo da McKinsey

Demanda por fluência em IA explode na América Latina, mostra estudo da McKinsey

A necessidade de profissionais capazes de trabalhar com inteligência artificial cresceu quase 11 vezes na América Latina entre 2023 e 2025, segundo análise da McKinsey. O estudo avaliou cinco economias da região e constatou que a procura por fluência em IA superou o crescimento de qualquer outra categoria de competências. O conceito de fluência em IA vai além de saber usar ferramentas como ChatGPT ou Gemini. Ele inclui a capacidade de operar, gerenciar e criar soluções baseadas em inteligência artificial, alcançando até mesmo carreiras que não são tradicionalmente ligadas à tecnologia. Para os trabalhadores, isso significa que a preparação para o mercado exige não só entender como a tecnologia funciona, mas também desenvolver habilidades para aplicá-la em tarefas, processos e decisões cotidianas. O que o estudo revela sobre inteligência artificial A pesquisa da McKinsey mostra que os empregos que exigiam fluência em IA passaram de aproximadamente 800 mil para 8,5…

Continue LendoDemanda por fluência em IA explode na América Latina, mostra estudo da McKinsey
DeepSeek V4.1-Flash avança na integração de imagem, contexto e automação para profissionais

DeepSeek V4.1-Flash avança na integração de imagem, contexto e automação para profissionais

Visão geral A DeepSeek consolidou sua posição entre as soluções de inteligência artificial usadas para pesquisa, programação, análise de informações e produção de conteúdo. A versão mais recente, DeepSeek-V4.1-Flash, lançada em setembro de 2026, traz compreensão visual nativa, maior eficiência e recursos voltados a agentes de IA. 1. Interpretação de imagens e outros formatos visuais Uma das principais novidades da V4.1-Flash é o suporte nativo à compreensão visual. Isso permite que o modelo processe informações que não estão apenas em texto, como gráficos, documentos digitalizados, capturas de tela e apresentações. Na prática, um profissional pode enviar uma imagem e pedir uma interpretação, a identificação de elementos ou a correlação de dados visuais com uma instrução escrita. 2. Contexto de até 1 milhão de tokens O modelo mantém a capacidade de trabalhar com até 1 milhão de tokens em uma única sessão, o que facilita a análise de documentos extensos sem…

Continue LendoDeepSeek V4.1-Flash avança na integração de imagem, contexto e automação para profissionais