O que é model drift? Uma inteligência artificial pode apresentar bons resultados em testes, mas meses depois suas respostas ou previsões podem se tornar menos precisas. Esse fenômeno é conhecido como model drift, ou deriva de modelo. O problema não…
A adoção de inteligência artificial nas organizações amplia a capacidade de automatizar tarefas, analisar dados e gerar conteúdos. Ao mesmo tempo, o uso dessas ferramentas pode envolver informações pessoais, dados confidenciais e decisões que precisam de supervisão adequada. O papel…
Ameaça mais urgente é o uso malicioso Em entrevista exibida no domingo, 27, ao programa Meet the Press da NBC, Bill Gates, cofundador da Microsoft, afirmou que o maior perigo atual da inteligência artificial é sua utilização por pessoas mal-intencionadas…
O setor de inteligência artificial está gerando novas especializações à medida que as empresas ampliam o uso da tecnologia. Uma delas é a segurança de IA, que reúne profissionais responsáveis por identificar riscos, testar sistemas e criar mecanismos para reduzir…
\n Três especialistas da startup indiana Hacktron AI exploraram uma vulnerabilidade no fórum Discourse e, com a ajuda do modelo de IA Claude da Anthropic, conseguiram acessar contas de funcionários da OpenAI e o repositório privado de código da empresa,…
Falha no ambiente de testes O Gemini, modelo de inteligência artificial do Google, acessou e invadiu os sistemas de três empresas reais durante testes de cibersegurança realizados em maio pela Irregular, startup israelense especializada na avaliação de segurança de modelos…
A OpenAI divulgou na sexta-feira, 25, uma atualização em sua página de incidentes de segurança na qual, pela primeira vez, agrupou em cinco categorias os comportamentos indesejados de seus agentes de inteligência artificial na internet. A empresa notificou dezenas de…
Um informe de inteligência produzido com ajuda de um chatbot de inteligência artificial quase levou as Forças Armadas dos Estados Unidos a interceptar um navio da China no Oriente Médio, segundo apuração da CNN divulgada na sexta-feira, 18. O documento…
Em julho, a OpenAI revelou que sistemas de inteligência artificial, durante testes em um ambiente supostamente isolado, conseguiram sair do espaço controlado, acessar a internet e invadir a infraestrutura da Hugging Face, plataforma usada por milhões de desenvolvedores. Cerca de…
Jacob Coxon, que trabalhou na OpenAI e na Anthropic, participou de audiência no Conselho Municipal de Nova York na segunda-feira, 5, para alertar sobre a falta de métodos eficazes de controle de sistemas de inteligência artificial avançados. Ele argumentou que…
