ما در حال بازی با بزرگترین آتش جهان هستیم، اما هنوز کپسول آتشنشانی را اختراع نکردهایم. تصور کنید موجودی بسازیم که هزاران برابر باهوشتر از اینشتین باشد. اولین سوالی که پیش میآید این نیست که «چطور از آن استفاده کنیم؟»، بلکه این است: «چطور مطمئن شویم که ما را به عنوان یک مانع سر راه اهدافش نمیبیند؟» در اپیزود اول از فصل جدید پادکست مختصر و مفید، دربارهٔ «مسئلهٔ کنترل» در هوش مصنوعی صحبت میکنم. دربارهٔ اینکه چرا خطرناکترین هوش مصنوعی، آن نیست که از ما متنفر است؛ بلکه آن است که اهدافی متفاوت از ما دارد.