Convicção privada vs. discurso público sobre risco existencial
Existe uma divergência entre a estimativa de especialistas (20%) e a de superforecasters (9,05%) sobre a probabilidade de um risco catastrófico até 2100 — mas essa divergência é debatida abertamente entre os próprios pesquisadores que constroem sistemas de IA, ou há um receio de que expressar publicamente uma avaliação de risco mais alta prejudique carreira, financiamento ou reputação dentro da comunidade de pesquisa?
O Futuro Não Questionado da Humanidade · Otimismo Tecnológico vs. Riscos Existenciais Não Abordados
Por que importa
a decisão sobre quanto investir em governança e segurança de IA depende de saber se as estimativas públicas de risco refletem convicção real ou autocensura profissional.
Insight oculto
a lacuna entre especialistas e público pode não ser apenas informacional, mas resultado de pesquisadores moderando publicamente suas próprias avaliações de risco por medo de serem vistos como alarmistas ou contrários à inovação.
O que esta pergunta provoca em você?
Obrigado. Quem mais deveria pensar nisso?
Comentários
Os comentários abrem em breve.