Als je naar me toe wilt komen, kun je het beste goed komen, anders sla ik je zwakke argumentatie weg als een kat die met een bal speelt.

Eerst las ik het.

Ten tweede ben ik meer academische papers over AI vergeten dan je je hele leven zult lezen.

Ten derde, je doet een beroep op een irrelevante autoriteit die een boek over popfilosofie heeft geschreven. Ik heb ervan genoten als kraak voor mijn sciencefiction en dat is het zowat. Kom niet naar me toe met je logische denkfouten.

Ten vierde, als je mensen leest die daadwerkelijk aan AI werken, zou je weten dat AI niet werkt zoals wat hij beschrijft en dat Bostrom een ​​onderzoek doet naar wat mensen denken dat geen wetenschappelijke analyse is. Het is een grap. Zelfs de freaking jongens die voor Musk bij OpenAI werkten en de superintelligence niet kopen, zullen ons allemaal ruzie maken.

Dit is wat echte AI-onderzoekers te zeggen hadden over Bostrom en over de vraag wanneer superintelligentie eraan komt:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

"" Veel meer dan 25 jaar. Eeuwen waarschijnlijk. Maar niet nooit. '

"We concurreren met miljoenen jaren evolutie van het menselijk brein. We kunnen programma's voor één doel schrijven die kunnen concurreren met mensen, en soms uitblinken, maar de wereld is niet netjes onderverdeeld in vragen met één probleem. "

“Nick Bostrom is een professionele bangmaker. De rol van zijn instituut is het vinden van existentiële bedreigingen voor de mensheid. Hij ziet ze overal. '

Sinds we uit het moeras zijn gekropen, bedenken mensen existentiële bedreigingen. Eerst was het donder. Toen werd de regengod boos op ons als we niet dansten als het veld of een geit op het juiste moment offerde. Toen waren het gebarsten schildpadden die de keizer vertelden dat er iets ergs ging gebeuren. Toen was het industrialisatie. We houden van grote flitsende bedreigingen. Nu hebben we super-AI.

Als je een populair boek wilt schrijven, kies dan een willekeurige existentiële bedreiging, of het nu buitenaardse wezens, meteoren zijn, of God boos op ons is of superintelligente AI en je kunt het verkopen aan een miljoen idioten. Maar je kunt die onzin hier niet verkopen en praten alsof het academisch onderzoek is. Het is niet. Het is een doomsday cult. En het is niet nieuw, hoe je het ook aankleedt in pseudo-wetenschappelijk onderzoek en domeinspecifieke taal waardoor je je intelligenter voelt dan je bent. Het is een stap hoger dan de hemelpoort.

We zijn op angst gebaseerde wezens en als je angst wilt verkopen, zul je altijd kopers vinden. Er is een reden waarom Steven King een van de grootste schrijvers ter wereld is.

Ten vijfde, hoe stelt u voor om het niet-bestaande probleem op te lossen? Wetgeving? Ik weet zeker dat China die wet zal schijten en niet zal blijven nastreven. Ik weet zeker dat de superintelligente AI er ook om geven, als ze op het toneel verschijnen.

Ten zesde, terwijl je je zorgen maakt over verre existentiële bedreigingen die niet echt zijn, hebben we echte KI's die mensen in de gevangenis stoppen, beslissen of je een lening krijgt of niet en auto's besturen. Het is tijd om je zorgen te maken over de echte problemen die we nu kunnen oplossen, in plaats van fantasieproblemen die geen oplossingen hebben en gewoon de angstbug voeden.