SubjetivaO que não está sendo dito? Question of the day

Convicção privada vs. discurso público sobre risco existencial

Existe uma divergência entre a estimativa de especialistas (20%) e a de superforecasters (9,05%) sobre a probabilidade de um risco catastrófico até 2100 — mas essa divergência é debatida abertamente entre os próprios pesquisadores que constroem sistemas de IA, ou há um receio de que expressar publicamente uma avaliação de risco mais alta prejudique carreira, financiamento ou reputação dentro da comunidade de pesquisa?

O Futuro Não Questionado da Humanidade · Otimismo Tecnológico vs. Riscos Existenciais Não Abordados

What does this question do to you?

Comments

Comments open soon.

More in this lens

TodayOtimismo Tecnológico vs. Riscos Existenciais Não Abordados

Apego institucional ao cenário de crescimento contínuo

A conclusão de que a trajetória de 'status quo' da civilização humana é improvável, sendo necessário optar entre colapso catastrófico ou expansão dramática, é discutida abertamente dentro de instituições que produzem relatórios de tendências globais, como o Millennium Project, ou existe uma resistência silenciosa em comunicar esse cenário porque ele contradiz o modelo de progresso incremental que sustenta a legitimidade e o financiamento dessas organizações?
TodayOtimismo Tecnológico vs. Riscos Existenciais Não Abordados

Quem perde poder se a governança da AGI avançar?

Considerando que Stuart Russell argumenta que falhar em resolver o problema de controle da AGI antes de sua criação seria um erro fatal para a civilização, quais atores — laboratórios de IA, governos nacionais, blocos geopolíticos — temem perder vantagem competitiva, autonomia estratégica ou status caso um sistema de governança internacional vinculante para IA avançada seja estabelecido, e essa preocupação está sendo tratada como discordância técnica legítima ou simplesmente descartada como obstrucionismo?

Other lenses

All questions in this scenario