Bagaimana Kecerdasan Buatan Akan Menukar Kehidupan Kita, untuk Lebih Baik atau Lebih Buruk
Jika anda telah memberi perhatian kepada media sepanjang tahun lalu atau lebih, anda mungkin mendapat gambaran bahawa hanya masalah masa sebelum ancaman kecerdasan buatan datang untuk memusnahkan kita semua.
Nota Editor: ini adalah berlepas dari format biasa cara penjelasan dan penjelasan kami di mana kami membiarkan penulis kami menyelidik dan membentangkan pandangan pemikiran yang memikat teknologi.
Daripada penyokong besar musim panas seperti Avengers: Age of Ultron dan Johnny Depp yang kebencian, Transcendence, lebih kecil, filem indie seperti Ex-Machina atau drama Hit Channel 4 Manusia, penanda skrip yang seolah-olah tidak dapat mendapatkan cukup trope yang tidak kira apa bentuk AI akhirnya akan mengambil masa beberapa dekad yang akan datang, anda boleh bertaruh ia akan bengkok neraka untuk mengajar manusia pelajaran tentang menjadi mangsa kepada hubris sendiri.
Tetapi adakah mana-mana ketakutan ini terhadap mesin yang dibenarkan? Dalam ciri ini, kita akan mengkaji dunia AI dari perspektif saintis, jurutera, pengaturcara, dan usahawan yang bekerja di lapangan hari ini dan meremajakan apa yang mereka percaya boleh menjadi revolusi besar seterusnya dalam perisikan manusia dan komputer.
Oleh itu, adakah anda mula menumpuk peluru untuk perang yang akan datang dengan Skynet, atau menendang kaki anda sementara sebuah tentera drone tenggelam menjaga setiap kehendak anda? Baca terus untuk mengetahui.
Tahu Mu Musuh
Untuk memulakan, ia membantu mengetahui apa yang sebenarnya kita bicarakan apabila kita menggunakan istilah "AI". Perkataan itu telah dilemparkan dan diubah semula seratus kali sejak konsep komputer menyedari diri dicadangkan oleh bapa tidak rasmi AI, John McCarthy, pada tahun 1955 ... tetapi apakah maksudnya?
Baiklah, pertama sekali, pembaca perlu tahu bahawa kecerdasan buatan seperti yang kita faham hari ini sebenarnya termasuk dalam dua kategori berasingan: "ANI" dan "AGI".
Yang pertama, pendek untuk Kecerdasan Pensuisan Buatan, merangkumi apa yang umumnya dirujuk sebagai "lemah" AI, atau AI yang hanya boleh beroperasi dalam satu bidang pengkhususan. Pikirkan Deep Blue, superkomputer yang direka oleh IBM untuk memecahkan catur peringkat dunia pada tahun 1997. Deep Blue boleh melakukan satu perkara yang sangat baik: menewaskan manusia di catur ... tetapi itu sahaja.
Anda mungkin tidak menyedarinya, tetapi kita sudah dikelilingi oleh ANI dalam kehidupan seharian kita. Mesin yang mengesan tabiat membeli-belah anda di Amazon dan menghasilkan cadangan berdasarkan ribuan pembolehubah yang berbeza dibina di ANI asas yang "belajar" apa yang anda suka dari masa ke masa dan memilih produk yang serupa. Satu lagi contoh boleh menjadi penapis spam e-mel peribadi, sistem yang menyusun melalui berjuta-juta mesej sekaligus untuk menentukan yang sebenar, dan apa bunyi tambahan yang boleh ditolak ke tepi.
ANI adalah perlaksanaan kecerdasan mesin yang membantu dan tidak boleh diterima oleh semua manusia kerana, walaupun ia mampu memproses miliaran nombor dan permintaan pada satu masa, ia masih beroperasi dalam persekitaran terkurung yang dibatasi oleh bilangan transistor yang kita benarkan ia mempunyai pada bila-bila masa. Sebaliknya, AI yang kami semakin semakin waspada adalah sesuatu yang dipanggil "Perisikan Umum Buatan", atau AGI.
Seperti yang ada sekarang, mewujudkan apa-apa yang boleh jauh dirujuk sebagai AGI kekal Holy Grail sains komputer, dan - jika dicapai - pada dasarnya boleh mengubah segala sesuatu tentang dunia seperti yang kita tahu. Terdapat banyak rintangan untuk mengatasi cabaran untuk mewujudkan AGI yang benar setanding dengan minda manusia, yang paling sedikit adalah yang walaupun terdapat banyak persamaan antara cara otak kita bekerja dan bagaimana proses maklumat komputer, ketika ia turun untuk benar-benar menafsirkan perkara seperti yang kita lakukan; Mesin mempunyai tabiat buruk untuk menaikkan butiran dan hilang hutan untuk pokok-pokok.
"Saya Takut Saya Tidak Boleh Membiarkan Anda Lakukan Itu Bullsh * t, Dave"
Apabila komputer IBM Watson terkenal dengan cara mengutuk selepas membaca Kamus Urban, kami mendapat pemahaman tentang sejauh mana kami dari AI yang benar-benar mampu mengasingkan pengalaman minutia manusia dan membuat gambaran yang tepat mengenai apa yang "Fikir" sepatutnya dibuat.
Lihat, semasa pembangunan Watson, jurutera menghadapi masalah untuk mengajarnya sebagai pola ucapan semulajadi yang lebih rapat dengan emosi kita sendiri, bukannya mesin mentah yang bercakap dalam ayat yang sempurna. Untuk membetulkan ini, mereka menganggap ia adalah idea yang baik untuk menjalankan keseluruhan Kamus Urban melalui bank ingatannya, dengan segera selepas itu Watson bertindak balas kepada salah satu ujian pasukan dengan menyebutnya sebagai "bullsh * t".
The conundrum di sini adalah bahawa walaupun Watson tahu ia mengutuk dan bahawa apa yang dikatakan adalah menyinggung, ia tidak sepenuhnya memahami kenapa ia tidak sepatutnya menggunakan perkataan itu, yang merupakan komponen penting yang memisahkan ANI standard hari ini daripada berkembang menjadi AGI esok. Pasti, mesin ini boleh membaca fakta, menulis ayat, dan juga mensimulasikan rangkaian neural tikus, tetapi apabila ia berkaitan dengan pemikiran kritis dan kemahiran penghakiman, AI hari ini masih kurang sedar di belakang lengkung.
Jurang antara pengetahuan dan pemahaman adalah tidak bersin, dan ia adalah yang pesimis menunjuk ketika mendakwa bahawa kita masih jauh dari mewujudkan AGI yang mampu mengenali dirinya dengan cara yang kita lakukan. Ia adalah jurang besar, salah satu yang tidak jurutera komputer atau ahli psikologi manusia boleh menuntut mereka mempunyai cengkaman dalam definisi moden tentang apa yang membuat kesedaran, baik, sedar.
Bagaimana jika Skynet Menjadi Diri Sendiri?
Tetapi, walaupun kita berjaya membuat AGI dalam dekad yang akan datang (yang agak optimistik diberikan unjuran semasa), ia sepatutnya menjadi kuah dari sana, kan? Manusia yang hidup dengan AI, AI bergaul dengan manusia pada hujung minggu selepas hari yang panjang di kilang nombor-deras. Pek dan kami selesai di sini?
Semoga kami bukan hanya pemuat boot biologi untuk superintelligence digital. Malangnya, itu semakin mungkin
- Elon Musk (@elonmusk) 3 Ogos 2014
Nah, tidak cukup. Masih ada satu lagi kategori AI yang tersisa, dan ia adalah yang semua filem dan rancangan TV telah cuba memberi amaran kepada kita selama bertahun-tahun: ASI, atau dikenali sebagai "kecerdasan super buatan". Secara teorinya, ASI akan dilahirkan dari AGI yang tidak dapat berehat dengan banyaknya dalam kehidupan, dan membuat keputusan yang direncanakan untuk melakukan sesuatu mengenainya secara sendiri tanpa izin terlebih dahulu. Kebimbangan ramai penyelidik di lapangan telah mencadangkan bahawa apabila AGI mencapai sentien, ia tidak akan berpuas hati dengan apa yang ada, dan akan melakukan apa sahaja untuk meningkatkan keupayaannya sendiri dengan apa-apa cara yang diperlukan.
Garis masa yang mungkin berlaku seperti berikut: manusia mencipta mesin, mesin menjadi pintar seperti manusia. Mesin, yang kini pintar seperti manusia yang mencipta mesin yang pintar seperti mereka (bersabar dengan saya di sini), mempelajari seni replikasi diri, evolusi diri, dan peningkatan diri. Ia tidak menjadi letih, ia tidak sakit, dan ia boleh tumbuh tanpa henti sementara yang lain kami mengecas bateri kami di tempat tidur.
Ketakutan adalah bahawa ia akan menjadi perkara hanya beberapa nanodetik sebelum AGI dengan mudah melepasi kecerdasan semua manusia yang hidup hari ini, dan jika disambungkan ke web, hanya perlu menjadi satu neuron simulasi yang lebih bijak daripada penggodam yang paling bijak di dunia untuk mengambil mengawal setiap sistem yang berkaitan dengan Internet di planet ini.
Sebaik sahaja ia mendapat kawalan, ia kemudiannya berpotensi untuk menggunakan kuasa untuk perlahan-lahan mula mengumpul tentera mesin yang sama pintar sebagai penciptanya dan mampu berkembang pada kadar eksponen kerana semakin banyak nod ditambahkan ke rangkaian. Dari sini, semua model yang ditarik pada lekuk kecerdasan mesin segera roket melalui bumbung.
Bagaimanapun, kata mereka, mereka masih berdasarkan spekulasi dan bukannya apa-apa yang ketara. Ini meninggalkan banyak ruang untuk andaian bagi berpuluh-puluh pakar yang berbeza di kedua-dua belah isu, dan walaupun selepas bertahun-tahun perdebatan hangat, masih belum ada persetujuan umum mengenai sama ada atau tidak ASI akan menjadi tuhan yang mengasihani, atau melihat manusia sebagai pembakaran karbon, spesies makanan yang menggembirakan yang kita dan menghapuskan kita dari buku-buku sejarah seperti kita menggosok jejak semut di luar kaunter dapur.
Dia Said, Dia Said: Sekiranya Kita Takut?
Oleh itu, sekarang kita memahami apa yang AI adalah, bentuk-bentuk yang berlainan yang mungkin diambil dari masa ke masa, dan bagaimana sistem-sistem tersebut dapat menjadi sebahagian daripada kehidupan kita dalam masa terdekat, persoalannya tetap: jika kita takut?
Panas pada jejak kepentingan orang ramai dalam AI sepanjang tahun lalu, ramai saintis, jurutera, dan usahawan terkemuka di dunia telah melonjak peluang untuk memberikan dua sen kepada mereka mengenai kecerdasan buatan yang sebenarnya kelihatan seperti di luar tahap bunyi Hollywood dalam beberapa dekad akan datang.
Di satu pihak, anda mempunyai keseronokan seperti Elon Musk, Stephen Hawking, dan Bill Gates, semua yang berkongsi kebimbangan bahawa tanpa perlindungan yang tepat, ia hanya akan menjadi masalah sebelum ASI bermimpi untuk menghapuskan umat manusia.
"Kita boleh membayangkan teknologi sedemikian mengalahkan pasaran kewangan, mencipta penyelidik manusia, pemimpin manusia yang memanipulasi dan mengembangkan senjata yang tidak dapat kita fahami", menulis Hawking dalam surat terbuka kepada komuniti AI tahun ini.
"Sedangkan kesan jangka pendek AI bergantung pada siapa yang mengawalnya, impak jangka panjang bergantung kepada sama ada ia dapat dikawal sama sekali."
Di pihak yang lain, kami dapat melihat potret yang lebih terang yang dicat oleh futuris seperti Ray Kurzweill, ketua penyelidik Microsoft Eric Horovitz, dan semua orang lain pengasas Apple kegemaran; Steve Wozniak. Kedua-dua Hawking dan Musk dianggap sebagai dua daripada fikiran terbesar generasi kita, jadi untuk mempersoalkan ramalan mereka mengenai kerosakan yang mungkin menyebabkan teknologi dalam jangka masa panjang bukanlah mudah. Tetapi, biarkan ia menjadi pencahayaan seperti Wozniak untuk melangkah di mana orang lain hanya akan berani.
Apabila ditanya bagaimana dia percaya ASI mungkin merawat manusia, Woz tumpul dalam keyakinannya yang teduh: "Adakah kita menjadi tuhan? Adakah kita menjadi haiwan peliharaan keluarga? Atau adakah kita akan menjadi semut yang dapat dilangkah? Saya tidak tahu mengenainya, "katanya dalam temu bual dengan Kajian Kewangan Australia. "Tetapi apabila saya mendapat pemikiran itu di kepala saya tentang jika saya akan dirawat di masa depan sebagai haiwan untuk mesin pintar ini ... saya akan merawat anjing peliharaan saya sendiri yang sangat bagus."
Dan di sini kita dapati dilema falsafah yang tidak ada orang yang selesa untuk datang ke konsensus: akan ASI melihat kita sebagai housepet yang tidak bermoral untuk dipelihara dan dijaga, atau perosak yang tidak disenangi yang pantas untuk menghapuskan cepat dan tidak menyakitkan?
Hasta la Vista, Bayi
Walaupun ia akan menjadi tugas orang bodoh untuk menuntut tahu apa yang berlaku di kepala kehidupan sebenar Tony Stark, saya fikir apabila Musk dan kawan-kawan memberi amaran kepada kami tentang bahaya AI, mereka tidak merujuk kepada apa-apa yang menyerupai Terminator , Ultron, atau Ava.
Walaupun dengan inovasi yang besar di hujung jari kita, robot yang kita ada hari ini hampir tidak dapat berjalan satu mil sejam sebelum mereka mencapai halangan yang tidak dapat dilupakan, menjadi bingung, dan makan trotoar dalam keadaan lucu. Dan sementara seseorang mungkin menunjuk kepada Undang-undang Moore sebagai contoh untuk seberapa cepat teknologi robotik mempunyai potensi untuk maju di masa depan, yang lain hanya perlu melihat Asimo, yang pertama kali memulakan kerjaya hampir 15 tahun yang lalu, dan belum membuat apa-apa peningkatan yang ketara sejak.
Seperti yang kita mahukan, robotics tidak datang dekat dengan mengikuti model kemajuan eksponen yang sama seperti yang kita lihat dalam perkembangan pemproses komputer. Mereka dikekang oleh had fizikal berapa banyak kuasa yang kita boleh muat ke dalam pek bateri, sifat mekanik hidraulik yang rosak, dan perjuangan yang tidak berkesudahan untuk menguasai perjuangan menentang pusat graviti mereka sendiri.
Jadi buat masa ini; tidak, walaupun AGI atau ASI yang benar berpotensi dibuat dalam superkomputer statik di beberapa ladang pelayan di Arizona, namun masih tidak mungkin kita akan mendapati diri kita berlari melalui jalan-jalan di Manhattan sebagai gerombolan rangka logam memangku kita dari belakang.
Sebaliknya, AI yang Elon dan Hawking begitu berminat untuk mengingatkan dunia terhadap adalah "keragaman-menggantikan" pelbagai, yang boleh berfikir lebih cepat daripada kita, mengatur data dengan lebih sedikit kesilapan, dan juga belajar bagaimana untuk melakukan pekerjaan kita dengan lebih baik daripada yang kita boleh berharap kepada - semua tanpa meminta insurans kesihatan atau beberapa hari untuk mengambil anak-anak turun ke Disneyland pada Spring Break.
Barista Bot dan Cappuccino Sempurna
Beberapa bulan yang lalu, NPR melancarkan alat yang berguna di laman webnya, di mana pendengar podcast boleh memilih dari senarai kerjaya yang berbeza untuk mengetahui peratusan risiko garis kerja spesifik mereka yang dijalankan untuk menjadi automatik pada satu ketika dalam 30 tahun akan datang.
Untuk pelbagai pekerjaan, termasuk tetapi tidak terhad kepada: jawatan klerikal, kejururawatan, IT, diagnostik, dan baristas kafe, robot dan rakan sejawat ANI mereka hampir pasti akan meletakkan jutaan kita keluar dari kerja dan ke dalam garis roti lebih cepat daripada banyak kita berfikir. Tetapi ini adalah mesin yang akan diprogramkan untuk melakukan satu tugas dan satu tugas sahaja, dan mempunyai sedikit (jika ada) keupayaan untuk bergerak melampaui satu siri khusus arahan pra-diprogramkan yang kita pasangkan dengan teliti terlebih dahulu.
Ini bermakna bahawa sekurang-kurangnya pada masa hadapan (berfikir 10-25 tahun), ANI akan menjadi ancaman nyata dan ketara dalam cara hidup kita jauh lebih daripada apa yang mungkin AGI atau ASI teori. Kita sudah tahu bahawa automasi adalah masalah yang semakin meningkat yang secara drastik mengubah cara pendapatan dan keistimewaan tersebar di seluruh dunia pertama dan ketiga. Walau bagaimanapun, sama ada robot itu akhirnya akan cuba untuk berdagang dalam mesin jahit mereka untuk senapang mesin masih menjadi subjek yang dipanaskan (dan seperti yang anda ketahui), perdebatan yang akhirnya tidak dapat dipisahkan.
Dengan Kuasa Besar, Mempunyai Singulariti Besar
"Anda tahu, saya tahu steak ini tidak wujud. Saya tahu bahawa apabila saya memasukkannya ke dalam mulut saya, Matrix memberitahu otak saya bahawa ia adalah juicy dan lazat. Selepas sembilan tahun, anda tahu apa yang saya sedar? "
"Kejahilan adalah kebahagiaan." - Cypher
Walaupun ini masih merupakan pendapat yang sangat tegas, buat masa ini kesepakatan ramai saintis dan jurutera teratas dalam bidang penyelidikan AI kelihatannya menjadi risiko yang jauh lebih besar untuk menjadi mangsa kecerdasan dunia kecerdasan buatan boleh memberikan, bukannya ditembak oleh versi sebenar Skynet. Oleh itu, adalah kemungkinan bahawa kematian akhirnya mungkin tidak akan datang sebagai hasil kemajuan yang perlahan dan teratur ke dalam yang tidak diketahui yang hebat. Sebaliknya, ia lebih cenderung untuk dipancarkan sebagai akibat yang tidak diinginkan dari persimpangan yang penuh dengan semangat dan keprihatinan kita sendiri dan kebijaksanaan yang membanting bersama untuk mewujudkan keunikan teknologi seterusnya.
Kurang berfikir Terminator, dan banyak lagi Wall-E. Seperti armada robot yang menanam manusia dalam filem Pixar, kita manusia tidak mempunyai masalah menjaga simpanse di kebun binatang, dan perbezaannya sama ada AI akan cukup baik untuk melakukan hal yang sama dengan kita.
Dari perspektif ini, ia lebih masuk akal untuk menjadi takut kepada realiti di mana manusia dihubungkan dengan simulasi VR seluruh dunia yang berterusan à la The Matrix, digemukkan kepada insang dengan makanan kegemaran mereka, dan memberikan segala yang mereka inginkan ketika mesin menjaga selebihnya. Tempat di mana ASI yang berkembang tidak melihat kita sebagai pepijat untuk mengikis kasutnya, tetapi sebaliknya sebagai beg daging monyet yang menggemaskan kita, mudah dibersihkan dan layak sekurang-kurangnya sedikit kredit untuk mewujudkan semua yang tahu, all-seeing quasi-god yang akhirnya mengambil alih planet ini.
Dalam hal ini, semuanya telah diturunkan kepada definisi anda tentang apa yang dimaksudkan untuk "hidup" melalui revolusi AI. Idea bahawa sesuatu yang 'sia-sia' harus dihapuskan adalah konsep manusia yang eksklusif, suatu pemikiran bahawa kita tidak seharusnya segera mengharapkan majikan mesin kita untuk menerima pakai dari ruang lingkup moral kita yang terhad. Mungkin evolusi akhirnya kecerdasan digital kita tidak akan menjadi kejahatan yang tulus, tetapi suatu belas kasihan yang tidak terhingga, bias-kurang untuk semua makhluk hidup; tidak kira betapa mementingkan diri sendiri, mementingkan diri sendiri, atau merosakkan diri mereka.
Jadi ... Sekiranya Kita Ragu-ragu Mengenai Ini?
Ia bergantung pada siapa yang anda tanya.
Sekiranya anda menjuarai dua jurutera teknologi pintar dan ahli matematik di dunia moden, anda akan mendapat empat jawapan yang berlainan, dan angka-angka tidak akan berubah dari mati bahkan lebih ramai orang yang anda tambahkan ke papan skor. Sama ada cara, isu utama yang perlu kita hadapi bukannya "adalah AI datang?" Kerana ia adalah, dan tiada seorang pun daripada kita akan dapat menghentikannya. Melihat lebih banyak perspektif yang berlainan, soalan sebenar bahawa tiada siapa yang selesa menjawab dengan terlalu banyak adalah: "adakah ia akan mengasihani?"
Walaupun sesetengah minda terbesar di dunia telah menimbang mengenai isu itu, gambaran tentang bagaimana kecerdasan mesin kelihatan seperti 20, 30, atau 50 tahun ke masa depan masih kelihatan keruh. Kerana bidang AI sentiasa berubah menjadi sesuatu yang lain setiap kali cip komputer baru dihasilkan atau bahan transistor dimajukan, mengklaim pihak berkuasa tertinggi pada apa yang mungkin atau mungkin tidak berlaku agak seperti mengatakan "tahu" bahawa roll dadu itu pasti untuk muncul mata ular pada lontaran seterusnya.
Satu perkara yang boleh kami laporkan dengan penuh yakin ialah jika anda bimbang untuk mendapatkan slip merah jambu minggu depan dari daftar tunai komputer anda, cuba jangan terlalu terperangkap. Taco Bell masih terbuka untuk Taco Selasa, dan manusia pasti akan mengambil pesanan anda di tingkap, (dan lupa sos hijau, sekali lagi). Menurut satu kajian yang dilakukan oleh James Barrat pada Sidang Kemuncak AGI tahun lalu di Quebec, juri pada garis masa yang sukar untuk AI masih di luar. Kurang daripada separuh daripada mereka yang hadir berkata mereka percaya kita akan mencapai AGI yang sebenar sebelum tahun 2025, manakala lebih 60 peratus berkata ia akan mengambil masa sekurang-kurangnya 2050, jika tidak seterusnya ke abad seterusnya dan seterusnya.
Meletakkan tarikh yang sukar pada tarikh kami dengan nasib digital agak seperti mengatakan bahawa anda tahu ia akan menjadi hujan pada tarikh hari ini 34 tahun dari sekarang. Jurang antara AGI yang benar dan kecerdasan super tiruan yang canggih sangat tipis bahawa perkara-perkara akan pergi betul-betul betul, atau sangat buruk sekali, sangat cepat. Dan walaupun komputer kuantum berada di hujung cakrawala dan kita semua mendapat telefon pintar berangkaian di dalam poket kita yang boleh menimbulkan isyarat ke ruang angkasa, kita masih hampir tidak menggaru permukaan memahami "mengapa" mengapa kita berfikir tentang perkara-perkara seperti cara kita lakukan, atau di mana kesedaran pun datang dari tempat pertama.
Untuk membayangkan kita secara tidak sengaja dapat mewujudkan minda buatan yang penuh dengan segala kesalahan kita sendiri dan kesilapan evolusi - sebelum kita tahu apa yang menjadikan kita siapa kita - adalah intipati amok amok manusia yang berjalan.
Akhirnya, walaupun keinginan kita untuk memutuskan siapa yang akan keluar di atas dalam perang yang akan datang dan / atau perjanjian damai antara manusia dan mesin, ia adalah pertandingan harapan yang terhad berbanding kemungkinan tanpa batas, dan apa yang kita lakukan adalah mempertikaikan semantik di antara. Pasti, jika anda baru keluar dari sekolah menengah dan ingin mendapatkan pensijilan memandu teksi anda, Ketua Pegawai Eksekutif Uber mempunyai setengah juta alasan mengapa anda mungkin berfikir tentang mencari kerjaya di tempat lain.
Tetapi jika anda menyimpan senjata dan kacang tin untuk apocalypse AI, anda mungkin lebih baik menghabiskan masa anda belajar bagaimana untuk melukis, kod, atau menulis novel hebat Amerika yang akan datang. Walaupun pada anggaran yang paling konservatif ia akan menjadi beberapa dekad sebelum mana mesin belajar bagaimana untuk menjadi Monet, atau mengajar dirinya C # dan Java, kerana manusia dipenuhi dengan jenis kreativitas, kepintaran, dan keupayaan untuk mengekspresikan diri kita yang paling tidak seperti pembuat kopi automatik pernah boleh.
Ya, kita mungkin mendapat sedikit emosi kadang-kadang, turun dengan kerja sejuk, atau perlu tidur siang pada tengah hari, tetapi mungkin tepat kerana kita manusia bahawa ancaman mewujudkan sesuatu yang lebih besar daripada kita di dalam mesin masih jauh, panjang jauh.
Kredit Imej: Disney Pixar, Gambar Paramount, Bosch, Youtube / TopGear, Flickr / LWP Komunikasi Flickr / BagoGames, Yayasan Wikimedia, Twitter, WaitButWhy 1, 2
