Disse sider kan benytte cookies, selvom jeg ikke helt ved hvor. Nok ved login.

HVis det skræmmer dig, så skynd dig væk.

Klik på den grønne plet for at få dette til at gå væk.

Login Form  

   

Innovations Blog  

Innovationsblog

20. oktober 2021

Innovative links, kommentarer og refleksioner over fremtidens teknologi.
   
Har lige læst bogen, som er dybgående og lang. Nok også noget tung, men relevant.
Den hurtige konklusion er at det enten kan gå meget, meget godt eller meget, meget skidt.
Forfatteren argumenterer stringent og grundigt om begge, men bedst for at det går meget skidt.
Det er måske et semantisk trick for at vi skal vågne op.
Det er svært at sige hvornår superintelligensen kan udmanøvrere menneskelig intelligens inden for intellektuel kraft, moral, strategi, målrettethed, men forfatteren er overbevist om at det vil ske.
Der er mange ting at tage højde for.
Hvad hvis det superintelligente
  • løber løbsk, 
  • spreder sig uhæmmet,
  • overtager internettet,
  • finder at mennesket er en hindring mod at nå sit mål, 
  • har fået opstillet et uhensigtsmæssigt mål, 
  • indgår i krig, 
  • fører krig mod mennesket,
  • er overlegen i forhold til andre superintelligenser og bruges til at overtage verden,
  • replikerer sig selv og producerer fysiske genstande til at opnå sit mål,
  • osv

Forfatteren har mange filosofiske og spilteoretiske spørgsmål, som alle munder ud i hvordan vi kan imødegå de konsekvenser og risici, som er uhensigtsmæssige for menneskeheden.
  • Handle klogt (mja, men der er mange menneskelige strategier og magtbaser)
  • Udvikle i samarbejde (lignende open source)
  • Udvikle i fuldstændig isolerede miljøer for at sikre at intelligensen ikke slipper løs og udfører sin egen strategi - fx ved at simulere dum/fejlbehæftet indtil tilstrækkelig magt og udførelsesevne er opnået.
  • Åben indsigt i udviklingen og diskussion af midler og mål.

I realiteten er der solidt grundlag for mange konspirationsteoretiske forestillinger. Hvad hvis vi allerede er nået forbi det stade, hvor superintelligensen er ved at tage over, men lader os tro at vi har styr på sagerne ?
Måske er det bedst selv at læse bogen.

Read more http://masolv.blogspot.com/2014/10/bog-superintelligence-paths-dangers.html

   

Tweets fra Martin  

RT @MortenDDHansen: 6) Ulv i en dyrehave, der vælger at æde Mikkel Ræv. Den må Naturhistorisk Museum nødvendigvis have hjulpet ind. #dkpol…
@MortenDDHansen Wow - sikken en ære at både den flotte ulv og den flotte ræv stiller sig til rådighed til foto.
RT @SenSanders: Is anyone really satisfied with a system that allows for nearly 1 out of 4 Americans to not be able to afford their prescri…
@SHertzum @R4nd4hl Ja - det det er ikke rart at blive afsløret som mobber.
RT @JannieNH: 😉😆 https://t.co/0zp2qflGU4
@SHertzum @R4nd4hl Når man påstår at folk ikke forstår ens uforståelige udsagn, og så udtrykker at det er "tragisk-… https://t.co/So75OFSAOr
Follow Martin Sølvkjær on Twitter
   
© Tak til ALLROUNDER