InvestigativaO que se sabe? Question of the day

Evidência sobre o risco de controle da AGI

Que evidência empírica concreta sustenta a afirmação de que a ausência de um sistema de governança para resolver o problema de controle da AGI antes de sua criação constituiria um erro fatal para a civilização humana, e quais comportamentos observáveis em sistemas de IA atuais, se existirem, poderiam servir como sinal antecipado de desalinhamento que valide ou refute essa hipótese?

O Futuro Não Questionado da Humanidade · Cenários de Crescimento Contínuo vs. Estagnação/Colapso

What does this question do to you?

Comments

Comments open soon.

More in this lens

TodayCenários de Crescimento Contínuo vs. Estagnação/Colapso

Divergência entre superforecasters e especialistas

Que evidências ou modelos causais explicam a divergência entre superforecasters, que estimaram 9,05% de probabilidade de risco catastrófico e 1% de risco de extinção humana até 2100, e especialistas, que estimaram 20% e 6% respectivamente, ambos participantes do mesmo torneio XPT? Essa discrepância decorre de diferenças reais na avaliação de mecanismos de risco ou de diferenças metodológicas entre os dois grupos de previsores?
TodayCenários de Crescimento Contínuo vs. Estagnação/Colapso

Testando a hipótese do fim do status quo

Que dado sobre a trajetória de longo prazo da tecnosfera terrestre ainda não foi coletado e que poderia refutar a conclusão do Grupo Trajetórias de que o caminho de 'status quo' é improvável e que a civilização deve ou colapsar cataclismicamente ou expandir-se dramaticamente? Em que medida os modelos econômicos que pressupõem crescimento contínuo e ignoram cenários como a 'singularidade econômica' já incorporam — ou ignoram sistematicamente — os mecanismos de colapso, oscilação e platô descritos na literatura sobre trajetórias civilizacionais?

Other lenses

All questions in this scenario