Per què el progrés espacial lent de la humanitat empitjora l'IA i què significa per a la supervivència

Taula de l'esquerra

Abstract i 1 Introducció

2. L'amenaça que representa l'IA per a totes les civilitzacions tècniques
3. Estratègies de mitigació multiplanetàries i progrés tecnològic
4. Timescales i confrontació amb les dades
5. La regulació
6. Conclusions, declaració d'interès competidor, reconeixements i referències

Estratègies de mitigació multiplanetàries i progrés tecnològic

En la nostra anàlisi fins ara, hem assumit que la IA i els sistemes biològics estan co-localitzats en el mateix espai físic limitat. Tan aviat com això ja no és cert, les amenaces existencials que hem descrit a la secció 2 ja no són tan estrictes.

Una civilització multiplanetària podria distribuir el seu risc a diversos cossos celestes àmpliament separats, reduint la probabilitat de destrucció simultània a totes les plataformes. Aquest model distribuït d'existència augmenta la resistència d'una civilització biològica a catàstrofes induïdes per la IA creant redundancia. Si un planeta o un avantpost a l'espai cau a un mal alineament dels objectius de la IA amb els interessos biològics, altres poden sobreviure i aprendre immediatament d'aquests fracassos. A més, l'expansió a múltiples llocs àmpliament separats proporciona un àmbit més ampli per a l'experimentació amb la IA. Permet entorns aïllats on els efectes de la IA avançada es poden estudiar sense el risc

Sabem per la nostra pròpia experiència que la IA està progressant a un ritme impressionant. No obstant això, el mateix no és cert amb els nostres propis esforços per convertir-nos en una civilització multiplanetària. L'espai és difícil, i, malauradament, sembla que estem molt més a prop d'aconseguir una singularitat tècnica que la realització d'una capacitat de desplaçament espacial realment multiplanetària.

La disparitat entre el ràpid avanç de la IA i el progrés més lent en la tecnologia espacial és forta. La singularitat tècnica -un punt hipotètic on la IA supera la intel·ligència i la capacitat humana- podria ocórrer en poques dècades, segons algunes prediccions. En canvi, establir una civilització humana multiplanetària autosuficient sembla una tasca monumental que pot trigar moltes dècades [43], possiblement segles. L'essència del problema rau en la naturalesa dels reptes que afronta cada domini. El desenvolupament de la IA és en gran mesura un repte computacional i informatiu, accelerat pel creixement exponencial de les dades i el poder de processament. Mentre que la IA pot millorar teòricament les seves pròpies capacitats gairebé

Tenint en compte aquesta potencial universalitat de l'evolució tecnològica, les implicacions per a les civilitzacions biològiques són profundes.La carrera per desenvolupar la IA podria prioritzar inadvertidament els avenços que condueixen a riscos existencials, omplint l'esforç més lent, però possiblement més vital, de convertir-se en una espècie multiplanetària.

Author:

(1) Michael A. Garrett (autor corresponent), Jodrell Bank Centre for Astrophysics, Departament de Física i Astronomia, Edifici Alan Turing, Oxford Road, Universitat de Manchester, M13 9PL, Regne Unit. ([email protected]).

Aquest document està disponible en arxiu sota la llicència CC BY 4.0 DEED.