Power Trip

Ender

Nye gennembrud i genredigering vil føre til utrolige fordele - og risici, vi næppe kan overveje

Illustration: Daniel Zender

Dette er den sidste del af ”Privatisering af apokalypsen”, et firedelt essay, der blev offentliggjort i hele oktober. Læs de foregående rater her - Del 1: "Mordet på 50/50," Del 2: "Afskrækkelse - og det undeterrable," og Del 3: "Den dødbringende gamble på Super A.I."

En skadelig stamme af H5N1-influenza begyndte at dræbe mennesker i 2003. Den er blandt historiens mest dødbringende vira. Men en af ​​dens kusiner er meget mere berømt. Populært kendt som svineinfluenza, er fætter også med rette frygtede. Men som værst er H5N1 tre tusind gange større sandsynlighed for at dræbe dem, den inficerer. Ikke tre tusind procent mere (hvilket ville være meget dårligt) men tre tusind gange mere.

Verdenssundhedsorganisationen har vist, at denne stamme dræber 60 ødelæggende af dem, den rammer. Det er mere dødbringende end ebola, og næsten alle kræftformer. Og selvfølgelig, wayyyyyy mere (et teknisk udtryk) end svineinfluenza, som påfører en næsten genial dødelighed på kun 0,02 procent. Men for alle dens uheldige ting har H5N1 en egenskab, som jeg tror, ​​vi alle kan komme bagpå: Det er overhovedet ikke meget smitsom blandt mennesker.

Uden for laboratoriet, det er.

Alligevel er det.

En influenzastammes transmissibilitet, dvs. dens evne til let at flytte fra person til person, ligger i dens gener. I 2011 kiggede forskere i Wisconsin og Holland hårdt på det relativt ikke-infektiøse H5N1 genom og fikset (for mangel på et bedre ord) det. Dette gav dem mutante H5N1-stammer, der er lige så dødbringende som den originale smag - men også meget smitsom. Som, tør at have det hele!

En arm fra det ærverdige tidsskrift Science sagde, at en belastning som denne kunne "ændre verdenshistorien, hvis den blev frigivet," ved at udløse en pandemi "muligvis med mange millioner dødsfald." Formanden for US National Science Advisory Board for Biosecurity, Paul Keim, sagde, ”Jeg kan ikke tænke på en anden patogen organisme, der er så skræmmende som denne.” Han tilføjede, ”Jeg synes ikke, at miltbrand er skræmmende i forhold til dette.” Og jeg vil tilføje, at Keim er en miltbrandsekspert.

Der er en optimistisk måde at se dette på, og lad os starte der. At skabe denne vederstyggelighed var en ny virksomhed. Kun et par eksperter i veludstyrede laboratorier kunne have trukket det af i 2011. De, der gjorde, var karrierevirologer, hvis job involverer forebyggelse og ikke forårsager udbrud. Vigtigst er det, at de blot skabte et lille antal højsekesterede bakterier. Skønt dem, der kunne dræbe i omfanget af en verdenskrig i tilfælde af boo-boo.

Nu for den anden visning. Hver variation på influenza er også en lille datafil. H5N1's genom indeholder færre bogstaver end dette essay (fra et alfabet på kun fire bogstaver). Dens “vanille” -version er bredt udbredt. Og de bogstavændringer, der er nødvendige for at give den mest dødbringende designermutant, ville helt sikkert passe på et ark papir. Sandsynligvis en post-it-note.

Det første ville være Enders angreb vil være lige så hidtil uset som den 11. september. Den eneste måde at indeholde det på er at forhindre, at det bliver lige så uventet.

Det er en masse oomph for en plet med data. Og frigørelse af det sovende raseri ville ikke kræve, at man tester rør fra dets laboratorier med oprindelse. Det eneste, du har brug for, er den korte liste over genetiske justeringer. Det er en præcis opskrift på at genskabe virussen overalt. Niveauet for træning og specialudstyr, som dette kræver, er skræmmende. For nu. Men det er også faldende. Det vil fortsætte med at falde længere og hurtigere. Antallet af mennesker, der er i stand til at konvertere blotte data til dødelige patogener, vil dermed eksplodere.

Denne bølge har en tæt præcedens, som jeg tidligere har bemærket, idet ensom laboratorieteknikker nu kan overskride resultatet af det 13-årige Human Genome Project (HGP) med bare timers indsats. Budgetkomprimeringen er ligeledes ekstrem og spænder fra tre millioner til en siden 2003 (HGP kostede ca. 3 milliarder dollars, mens laboratoriets produktion vil give dig ca. tusind dollars). Skønt forbløffende, er denne forudgående udvikling ikke medfølgende truende. HGP's underliggende teknologi handler om læsning af genetisk kode. Mens våbenvåben noget som influenza kræver redigering af det.

Det er et andet trick. En hårdere også. Men som tidligere skete ved genomlæsning, skriges værktøjerne til genetisk redigering gennem en hurtig fremadrettet renæssance. Dagens øverste redigeringsmetode eksisterede ikke engang, da de ghoulish influenzastammer blev kogt tilbage i 2011. Den kaldes CRISPR, og den kunne være så transformerende til genredigering, som jetmotorer skulle flyve.

CRISPR har allerede spredt sig til den fjerne udkant af akademisk videnskab. Hundreder af college og endda gymnasieteam indkaldes årligt til et bio-engineering jamboree kaldet iGEM, som distribuerer et åbent katalog med snesevis af CRISPR-baserede værktøjer - alle sammen oprettet af andre studerende. iGEM ​​er en virkelig inspirerende begivenhed. Det trækker tusinder af unge sind, der har et stort potentiale til at hjælpe menneskeheden. Det viser os også, hvor hurtigt og bredt synbios gennembrud vil diffundere, når markens lynudvikling fortsætter.

Dette gør det ufatteligt, at smalle og betroede eliter bevarer eksklusiv herredømme over ethvert element af synbio - inklusive den mørke kunst at fremstille monstrøse patogener, som 2011 influenza hacks. Det er trods alt ikke strålende råskabelser - men dem med snæver redigering. Enheder aktiveret af stadig forbedrede værktøjer, hvis forbedringer hurtigt bliver allestedsnærværende.

Naturen gjorde alt det tunge løft ved at skabe forfærdelige udgangspunkter som influenza, ebola, miltbrand og meningitis. Laboratorier har huset hele zoologiske haver af disse critters i årtier, og deres omhyggeligt annoterede genetiske koder er globalt tilgængelige for enhver. Praktiske links til snesevis af dem kan findes lige her (blandt utallige andre steder).

Ufortoldede tusinder af turboladede patogener vil efterhånden blive designet af en række grunde. Nogle vil være specialeprojekter. Andre vil være biprodukter fra medicinsk forskning. Mange vil være håndværk af hvide hatte gode fyre, der prøver at ligge foran de onde fyre (en af ​​mange grunde til, at iGEM er en prisværdig bestræbelse). Nogle få vil blive designet som opmærksomme stunts.

Mange af disse dødbringende opskrifter kontrolleres tæt. Faktisk kan de fleste aldrig undslippe deres skabers digitale hvælvinger. Men små datafiler med stor konsekvens har måder at sprede på. Mange dybe økonomiske og regeringshemmeligheder er hacket i en given måned. Og det er ingen dristig sci-fi-forudsigelse at forudsige, at bio-laboratorier i skolerne vil mangle forsvaret af endda sikkerhedskræmpere som Equifax.

Ikke alle vil alligevel forsøge at holde deres kreationer hemmelige. At lægge et pandemiklasse genom til Reddit kan være nogens måde at give verden fingeren på. En techno-anarkist kan måske se det som en sublim moralsk handling. Eller det kan være en nihilists nøgne forsøg på at udløse en faktisk pest. Og når disse filer først er ude i naturen, forbliver de der. Bed ethvert filmstudie, der anstrenger sig om at udslette piratkopiering af sit katalog. Blåtryk af ondartede genomer vil uundgåeligt gå gennem Dark Web sammen med børneporno, narkotikatilbud og terroristprat. Og når de dukker op, bliver de antologiseret, byttet og opbevaret bredt.

For tiden findes der ikke enkle genetiske printere - og intet apparat af nogen kompleksitet kan trække virulængde genomer helt fra bunden. Men dette vil ændre sig. Ligesom computing, genomics og synbio ride eksponentielle forbedringskurver. I det mindste en er endnu stejlere end Moore's Law, som berømt sporer ydeevne inden for computing. Dette er grunden til, at dagens kopimaskine-store sequencere udskiller Human Genome-projektet, der beskæftigede tusinder af videnskabsmænd (og hektar klunky gear) i 13 år. I 2038 vil budget-DNA-synthesizere skjule vidundere, som hele synbiofeltet ikke kunne fremkalde i dag. Og de kræver muligvis næppe mere teknisk dygtighed end at trykke på en Print-knap.

Richard Preston sagde engang, ”det vigtigste, der står mellem den menneskelige art og oprettelsen af ​​et supervirus, er en ansvarsfølelse blandt de enkelte biologer.” Dette var næsten helt sikkert fint tilbage i 2011, da de relevante mennesker blev respekteret virologer. (Når det er sagt, konkluderede FBI, at en hærs biodefense-forsker udførte 2001's miltsbrandangreb, så du ved aldrig.)

Tingene bliver mindre stabile, når verdens elitelivsvidenskabelige studerende kommer ind i puljen af ​​potentielle supervirus-skabere. Denne gruppe er naturligvis ikke kendt for sin blodlyst. En af årtiets mest berygtede massemordere hørte dog engang til den. Og i sidste ende næsten en anden vil. For når tiden går, og et samfund vokser, går oddsen for, at nogen fra det gør noget bizart forfærdeligt, fra slank, høj til næsten sikker.

Når de kryber længere nede på den akademiske stige, er de studerende stadig langt flere, og de er bestemt blevet kendt for at gå nogle gange fra skinnerne. Og stille, sindige børn i gymnasiet er muligvis en af ​​de dødbringende demografier i Amerika. Synbioteknikker diffunderer gradvist også gennem medicinen. Dette med rette respekterede felt har gjort langt mere godt end skade for de fleste af os. Men British Medical Journal bemærker også, at "medicin uden tvivl har kastet flere seriemordere end alle de andre erhverv sammensat med sygeplejerske et tæt sekund."

Det forrige essay i denne serie argumenterer for de mest sandsynlige skyldige i en super A.I. krise vil være selvtilfredse hold af eliter, der tager genveje, mens de jagter overskud. Men når det kommer til synbio-risiko, bekymrer ensomme selvmordsmordere mig mere. Hvert år søger en lille brøkdel af mennesker deres egne dødsfald ved at slagte så mange tilfældige ofre som muligt, som det andet essay i denne serie drøfter dybt. De stopper sjældent, indtil de selv er døde. Og så må vi rationelt antage, at i det mindste nogle af dem ville dræbe enhver sidste os, hvis de kun kunne.

Eller - hvis nogensinde de kan.

Skal et sådant uhyggeligt resultat nogensinde opstå, hvad kan vi kalde vores udslettede? I en e-mail-udveksling med mig om dette essay mynte Naval Ravikant udtrykket The Ender, som jeg synes stemningsfuldt. Nogle af folkene bag Amerikas næsten daglige masseskydning er sandsynligvis Enders i hjertet. Men ingen har en fjern knæk ved at droppe gardinerne på menneskeheden. Kun de, der befaler enorme nukleære arsenaler, gør det for nu. Og de vil beholde deres dystre monopol endnu et stykke tid.

Men ikke for evigt. Ja, risikoen for en konstrueret pandemi er i øjeblikket lille. Nogle vil måske sætte vores odds for at undvige katastrofe nord for 99,9 procent i løbet af det næste årti. Og de ville sandsynligvis have ret. Men tingene ved årtier er, at de følges af flere årtier. Og derefter i halve århundreder osv. Hvis der sker et gigamord, vil det nøjagtige år være et mindre aspekt af en tragedie uden præcedens. De, der håner frygt eller forsigtighedsregler i dag baseret på nøjagtige prognoser for et stille tidligt eller to årtier, vil ikke blive rost som prescient helter.

Naturligvis er det ideelt og lettet, at der ikke har været nogen synbio-terrorisme til dato. Men dette har nul forudsigelig relevans. Myspace dominerede sociale medier indtil 2008. Og Myspace var omtrent så genialt kørt som et koks-tilsat broderskab af C-minus-studerende. Hvem forestillede sig, at hans arvtager snart ville blive anklaget for kapring af større valg? Hvis du løfter din hånd, skal du sænke den, fordi du narrer ingen.

Eksperterne, jeg har drøftet dette med, synes, det er næsten umuligt, at nogen pandemi kan komme tæt på at udslette os. Samfundets forsvar mod pandemier er uberegnelig bedre end da den sorte død døde, eller når den spanske influenza dræbte op til 6 procent af alle mennesker. Men dette kunne modvirkes alvorligt af intentioner og ondsindet design. På grund af alle sine fejl bar spansk influenza os ingen dårlig vilje. Heller ikke den blinde evolution indbød det med udspekulerede ændringer for at maksimere dødelighed, uklar opdagelse, gøre inkubationsperioder maksimalt dødelige osv. Og lad os ikke glemme, at flere patogene dæmoner kunne frigives på én gang.

Vi må derfor være opmærksomme på mulige misbrug af de fantastiske redskaber, som synbio begynder at velsigne os med. Dette betyder, at gode mennesker er nødt til at begynde at tænke som Ender nu - for at der ikke nogen gang er en Ender - fordi en mislykket Ender kunne deformere menneskets historie uden at opnå noget tæt på fuld udslettelse.

Få lande bevarer den modstandsdygtighed, der engang hjalp os med at udbrede død (tænk på, hvordan ville det gå, hvis sygelige tilfælde oversvømmer dit lokale hospitalers kapacitet med en faktor på hundreder). Overvej også årene med blodudgydelse og generel forringelse, der fulgte 2.977 drab på 11. september. Et fyr af et wannabe Ender-angreb kunne være tusinder af gange mere dødbringende end det. Hvem ved, hvilken alvorlig skade vi kan påføre os selv i kølvandet?

Men hvad kan muligvis motivere en wannabe Ender? De af os, der ikke kan fatte tankegangene til voldsomt mordere, kan være dårligt udstyret til at besvare dette. Men motivationer er muligvis ikke begrænset til kriminel sindssyg. Ikke-voldelige overbevisningssystemer forvrænges ofte for at fremme massemord. Vi kan ikke udelukke, at en dag bliver kapret for at miste fuldstændig menneskelig ødelæggelse.

Tænk på de uhyggelige antinatalister, der hævder, at livet er så forfærdeligt, det er umoralsk at bringe flere mennesker ud i verden. Kunne en offshoot-fraktion konkludere, at det ville være en høj moralsk handling at udrydde arten? Den frivillige menneskelige udryddelsesbevægelse - hvis plan for at gendanne biosfæren skulle være en selvfølge - kan muligvis også have givet en obligatorisk fraktion.

Dette lyder muligvis langsigtet, men når selvmordsmordet normaliseres, er det at trække på årsager og motiver, der ville have været ufattelig for nylig. Nogle såkaldte incels har set, at de ikke lyder at blive ujævn som den eneste grund til masseslakt. En grumpy skatteyder afsluttede det hele, mens han nippede til IRS. En mindreårig YouTuber gik ud med at sprænge på tjenestens personale for at have leveret mindre opmærksomhed og annonce dollars, end hun ønsket. Og så videre.

Selv selvmordangreb fra jihadi var ikke hørt, da Amerika udholdt tusinder af bombeangreb om året (ja, virkelig) i de tidlige 70'ere. Disse angreb blev udført af indenlandske grupper, der hovedsagelig bestræbte sig på ikke at skade nogen (dette var hippie-terrorister, se). Selvmordsbombning fik sin første ringe tåhold i den store muslimske verden i 80'erne. Dette var først begrænset til libanesiske militser bundet til shi-islam, som forbinder begrebet martyrdom på dybe og unikke måder.

Den nye praksis tog mange år at hoppe til den større sunni-verden. Det blev ikke engang vedtaget af nabolande palæstinensiske grupper, som på det tidspunkt havde logget årtiers væbnet konflikt. Israels første fyrre års historie gik med rigelig vold, men ikke en eneste selvmordsbombe på sit område. Men smitten sprang til sidst - og i årtusindets første halve årti var der 129 sådanne angreb inden for Israels grænser og de besatte territorier, som stort set alle blev udført af palæstinensiske sunnier.

Dette viser, at det historisk utænkelige hurtigt kan blive alt for almindeligt. Og voldelige handlinger - meget som slang, nederdellængder og autotuning - kan være trendy. Selvmordsmordmorder er et meme med fart. Og nogle af dets udøvere er wannabe Enders i hjertet. Men wannabe Enders, der køber massemordredskaber i detailhandlen, er svære at skelne fra løbebrydere, der er i drift. Så vi ved ikke, hvor almindeligt Ender-tankegangen er.

Den umiskendelige underskrift af en blivende Ender vil være et angreb ved hjælp af en yderst dødelig, målrettet teknologi. Det vil være en enestående begivenhed (indtil copycats dukker op). Og jeg tror, ​​det vil involvere synbio.

En gradvis, åbenlyst trommeslag af mindre hændelser forud for en synbio-kataklyme kunne udløse opmærksomhed og modforanstaltninger. Men et sådant mønster er usandsynligt. Det første synbioangreb finder sted, når en wannabe Ender kommer ind i gruppen af ​​mennesker, der er i stand til at begå en. Mennesker med en Ender-tankegang er sandsynligvis ret sjældne. Så dette sker slet ikke - indtil det sker på én gang.

På baggrund af dette ville et teknologiforbud være meningsløst. Frem for alt ville det være alt andet end uforanvendeligt (husk, at ulovlige stoflaboratorier både er ulovlige og allestedsnærværende). Og på det mest effektive ville det give useriøse nationer og onde aktører et monopol på apokalyptisk kunst. Det er ingen måde at forhindre en katastrofe på.

Det første ville være Enders angreb vil være lige så hidtil uset som den 11. september. Den eneste måde at indeholde det på er at forhindre, at det bliver lige så uventet. Vores forsvarere aktiverede den 9/11 ved at have en katastrofal mangel på fantasi. Ikke en mangel på fremsyn (lufthavne havde været indrettet til at opdage og forhindre kaprering siden de tidlige 70'ere). Ikke en mangel på budget (vi brugte hurtigt billioner på at reagere på 9/11, når alt kommer til alt). Og bestemt ikke en mangel på advarselsskilte. Men fantasiens underskud var forbløffende.

Antag bare, at et værelse med efterretningsanalytikere blev indkaldt til en brainstorming om morgenen den 10. september 2001. De får at vide, hvordan terrorister kunne nedbringe en skyskraber med bare et par skarpe genstande. Antag, at de hver især er strålende, og opfordres til at tænke godt uden for boksen. Og at de er meget forskellige og repræsenterer et bredt spektrum af etniske og religiøse perspektiver. Hvor lang tid ville de tage for at løse puslespillet?

Husk, at selvom planlæggerne af 11. september var mange ting, var de ikke genier. Også at de tildelte deres ikke-geniale plan til et team af middelmådigheder - hvoraf de fleste var for svage til at indse, at de var på en selvmordsmission. Disse var uklare mænd med en gennemsnitlig højde på ca. 5 '6 ”, som næppe kunne navigere i det fremmede land, de arbejdede i.

Så igen: hvor lang tid skal det tage vores strålende analytikere at ramme den værste sag fra en gruppe, der er underpowered? Kunne det muligvis tage indtil frokosttid? Eller endda deres første kaffepause? Jeg tvivler på, at det ville have taget dem endda en times tid, umuligt, selvom det er at bevise. Ud fra dette konkluderer jeg, at folk i deres stævne sjældent blev bedt om at bruge endda et blød af deres fantasi.

Så hvad skal vi gøre med den kommende kollision af Ender-tankegangen med synbio og måske andre teknologier?

Dette er faktisk et sjældent tilfælde, hvor det ville være yderst produktivt at narre ud. Ligesom meget.

Ude i offentligheden er vi nødt til at fortælle os selv skræmmende historier og miste meget søvn. I tophemmelige konferencelokaler bør vi i mellemtiden bede nogle af vores mest strålende og snoede borgere om at tænke hårdt over lavbudgetiske, diaboliske handlinger, før wannabe Enders kommer på dem. Derefter er vi nødt til at gøre disse handlinger næsten umulige. Eller i det mindste helt overraskende.

Vi er faktisk ret gode til dette. Overfor udsigten til nuklear udslettelse, blev vi uhyggelige i årevis på en strækning. Vi fortalte os selv spøgelseshistorier med navne som Dr. Strangelove, On the Beach, Fail Safe og War Games. Meget skremmere historier blev i mellemtiden fortalt på tophemmelige konferencer og i klassificerede briefinger. Derefter, da den cubanske missilkrise ramte, behøvede kæderygere i disse krigsrum i Moskva og Washington ikke at bruge deres forestillinger en iota. Der var allerede gjort masser af forestillinger for dem - og dens output var blevet syntet ind i deres meget neuroner. De vidste nøjagtigt, hvad der stod på spil. Og så overlevede menneskeheden.

George Orwell fnugede på en anden front, i 1948. Hjemsøgt af forudsætninger om moderne totalitarisme spundet han et skræmmende garn kaldet 1984. Dette inokulerede meget af den globale intelligentsia fra romantisering af stalinisme. Dean Acheson og andre øverste politikere blev også panikfuldt på meget produktive måder. Der var masser af overskridelser, som ingen nogensinde skulle være stolte af. Men i sidste ende forsvandt Sovjetunionen uden at skyde et skud - og dette var langt bedre end det bedste case-resultat, som nogen realist nogensinde har overvejet.

Der er utallige andre eksempler. For eksempel kan du grine alt, hvad du vil i Terminator-franchisen. Men mens det ikke udelukker en super A.I. krise, er det langt mindre sandsynligt, at man fanger os helt uvidende. Gør en fremmed invasion (selvom man rangerer tæt på vampyrer og varulver på sandsynlighedsskalaen).

Hvis 1 procent af vores efterretningsbudget var gået i at tænke onde, kreative tanker, før Osama bin Laden kunne komme med dem, kunne et hockeyhold i mellemskolen have stampet hans wimpy besætning, før de kom til flyskolen. Så igen: Vi kan ikke lade vores fantasi svigte os på ny. Hvilket betyder, at vi har brug for ækvivalenten til det kontrafaktiske rum hos analytikere den 10. september.

Kun vi har brug for hære af dem. Og vi har brug for dem i sagen for hele deres karriere, ikke kun en eneste morgen. Vi er nødt til at betale dem godt for at arbejde lange timer og oversvømme deres kontorer med kaffe, pizza, øl, ukrudt, syre og måske endda grydeegift. Og vi har brug for selvorganiserende frivillige. Folk fortæller den slags spøgelseshistorier, der kan samle samfundets antistoffer, før noget dødeligt faktisk sker. Og proaktive folk, der kan få øje på subtile sikkerhedssløjf i deres arbejdspladser eller hverdag, før en wannabe Ender kan.

De håbefulde Ender, som vi virkelig skal bekymre os om, har visse skræmmende fordele. De lever mindst et par årtier i fremtiden, så de ved mange ting, som vi ikke gør. De er fyret af had og nag, som vi ikke kan fortælle, hvilket skubber deres fantasi i fremmede retninger. De er sandsynligvis smartere end vi er i gennemsnit. Plus, de er fuldstændig engagerede og virkelig nådesløse.

Men vi overgår dem meget. Vi har forbindelse, mens de er isoleret. Og vi kan begynde at tænke på dette nu - måske før de farligste endelige endere endda bliver født.

Som forfatter kan jeg ikke undgå, at slutte med en lille plot-twist. Det er dette: Jeg er en nådeløs optimist. En patologisk grænse. Jeg ser så meget strålingspotentiale i synbio, A.I. og andre nye teknologier, det brænder praktisk talt mine nethinder. Jeg brugte det sidste år på at diskutere disse emner med snesevis af strålende videnskabsmænd og stiftere og er overbevist om, at hvis vi får tingene rigtigt, står menneskeheden over for en blændende fremtid.

Antinatalisterne har det faktisk baglæns. At tillade en apokalypse på vores ur ville være en kataklysmisk moral forkert for vores arvinger, fordi de sandsynligvis har det så forbandet godt (ja, selvom de sandsynligvis vil sutre så meget som vi gør - hvilket er irriterende - men det er mennesker for dig). Hvis du tvivler på det, kan du sammenligne dit eget parti med det, der bor i den mørke tid, potentater og royalty inkluderet. Ved enhver målbar måling af menneskelig blomstring bliver århundrederne mere og mere ærgerlige, når du trækker sig ind i fortiden.

Men heldigvis for os opsamlede teknologi ubarmhjertigt i netop disse århundreder. Teknologi, der nu forhindrer sygdomme, genererer kalorier, transformerer stof, transporterer alt, distribuerer viden og så videre.

Nogle kan sige, at forholdsregler er dyre, og ser vi ikke dumme ud, hvis de viser sig unødvendige? Men vi føler os taknemmelige, ikke tåbelige, når vores brandforsikringsudbydere ikke sender checks til cinder i vores hjem. Vi er ikke irriterede over at have spildt nogle øjeblikke med at fastgøre sikkerhedsselen, når en tur slutter sikkert. Og lave flystyrtfrekvenser ugyldiggør ikke luftfartssikkerhedsudgifter - de bekræfter det.

Menneskeheden står måske ikke i en lang fremtid. Hvis den gør det, vil den fremtid blive formet og defineret af uventede teknologier, som vi umuligt kan forudsige. Dette er spændende som helvede! Men det kræver stor ydmyghed og forsigtighed. For hvis der er en lang fremtid, er det værd at komme til.