Vernor Vinge | فيرنور فينج
11-01-2010
Species of Mind
أنواع العقل
The Technological Singularity
المنفردة التقنية
It seems plausible that with technology we can, in the fairly near future, create (or become) creatures who surpass humans in every intellectual and creative dimension. In 1993, I said I'd be surprised if the Singularity happened before 2005 or after 2030. Nowadays, my friends ask: "So Vernor, are we on schedule?" And my answer is that I still think the Technological Singularity is the most likely non-catastrophic outcome for the relatively near future, and with the time schedule shown above. But there are interesting follow-on questions.
يبدو من المعقول أنه باستخدام التكنولوجيا ، يمكننا ، في المستقبل القريب إلى حد ما ، خلق (أو أصبح) مخلوقات تتفوق على البشر في كل فكرية و البعد الإبداعي. في عام 1993 ، قلت إنني سأفاجأ إذا كان التفرد حدث قبل عام 2005 أو بعد عام 2030. يسأل أصدقائي في الوقت الحاضر: "لذا فيرنور ، هل نحن في الموعد المحدد؟ وجوابي هو أنني ما زلت أفكر في التكنولوجيا التفرد هو النتيجة الأكثر احتمالا غير كارثية نسبيا المستقبل القريب ، مع الجدول الزمني الموضح أعلاه. ولكن هناك أسئلة متابعة مثيرة للاهتمام.
Hey, since it's already 2010:
مرحبًا ، نظرًا لأنه عام 2010 بالفعل:
- Do we know more about what the world would be like after the Singularity?
-- I think the answer to this question is "no". The Singularity would be qualitatively different from tech advances of the past (the Industrial Revolution, the development of agriculture), in that the intelligence of the top players afterwards would be beyond us.
- Do we know more about what the run-up to the Singularity might look like?
-- This should be a more tractable question; maybe "yes".
- هل نعرف المزيد عما سيكون عليه العالم بعد التفرد؟
-- أعتقد أن الإجابة على هذا السؤال هي "لا". سيكون التفرد تختلف نوعيا عن التطورات التقنية في الماضي (الصناعة الثورة ، تطوير الزراعة) ، في ذلك ذكاء سيكون كبار اللاعبين بعد ذلك خارج نطاقنا.
- هل نعرف المزيد عما قد تبدو عليه الفترة السابقة على التفرد مثل؟
-- يجب أن يكون هذا السؤال أكثر سهولة ؛ ربما نعم".
Paths to the Singularity
الطرق الى المنفردة
each with its special flavor and danger and promise (though developments are concurrent and interacting):
- Artificial Intelligence (AI)
- Intelligence Amplification (IA)
- Computer Networks plus Humanity
- Digital Gaia: Fine-grained distributed systems
Note that altogether this list involves hundreds of thousands of serious researchers, many of them not even knowing they are part of the enterprise.
لكل منها نكهته الخاصة وخطورته ووعده (على الرغم من التطورات متزامن ومتفاعل):
- الذكاء الاصطناعي (AI)
- تضخيم الذكاء (IA)
- شبكات الكمبيوتر بالإضافة إلى الإنسانية
- الارض الرقمية: أنظمة موزعة دقيقة الحبيبات
لاحظ أن هذه القائمة تتضمن مئات الآلاف من الجديين باحثون ، كثير منهم لا يعرفون حتى أنهم جزء من المشروع.
Artificial Intelligence
الذكاء الاصطناعي
Certainly 2010 is a good year for assessment of one of the classic arguments for strong AI: We are into petaflops computing and still seem to be on track with the hardware side of Hans Moravec's picture after Robot: Mere Machine to Transcendent Mind (Oxford University Press):
- In 2010, perhaps the starkest evidence of progress in the classical AI area is the way that computer-run models and bayesian methods have taken over the sciences.
- Going forward from 2010: Whether the application is autonomous automobiles or natural language translation, the next few years will be profoundly interesting. In the end, I think we (I mean, you!) will capture all that AI optimists ever hoped for -- and if you don't, what refractory problems remain will be revelations in themselves.
من المؤكد أن عام 2010 هو عام جيد لتقييم إحدى الحجج الكلاسيكية من أجل ذكاء اصطناعي قوي: نحن في مجال حوسبة البيتافلوب ويبدو أننا نسير على الطريق الصحيح مع جانب الجهاز من صورة Hans Moravec بعد Robot: Mere Machine إلى العقل المتسامي (جامعة أكسفورد اضغط):
- في عام 2010 ، ربما يكون أقوى دليل على التقدم في الذكاء الاصطناعي الكلاسيكي المنطقة هي الطريقة التي اتخذتها النماذج التي يديرها الكمبيوتر والأساليب البايزية على العلوم.
- المضي قدمًا من عام 2010: ما إذا كان التطبيق مستقلاً أم لا السيارات أو ترجمة اللغة الطبيعية ، ستكون السنوات القليلة القادمة مثيرة للاهتمام للغاية. في النهاية ، أعتقد أننا (أعني ، أنت!) سنلتقط كل ما كان يأمله المتفائلون في الذكاء الاصطناعي - وإذا لم تفعل ، فما هي المقاومة تبقى المشاكل ستكون الوحي في حد ذاتها.
Intelligence Amplification
تضخيم الذكاء
How intimate can the user interface become?
Paraphrasing David Brin's take on the close coupling of computers with the human intellect: ~"The computer portions might make up a kind of neo-neocortex, providing scalable processing power, while the organic part provides what we natural humans have always been good at: desire, setting goals and aims.~"
- Many people who are enthusiastic about the Singularity, regard Intelligence Amplification as a safe and comforting path. After all, if you are becoming smarter and smarter, then the Singularity might be as transparent and navigable as past technological revolutions.
- If extreme IA happened abruptly, I don't think it would be especially safe; we humans are naturally bloody-minded. On the other hand, IA could proceed in a gradual way.
- Biological life has its virtues (see further on in this talk), but in this context, biological life doesn't have legs.
إلى أي مدى يمكن أن تصبح واجهة المستخدم حميمية؟
إعادة صياغة ديفيد برين التقارب الوثيق بين الحواسيب والعقل البشري: ~ "الكمبيوتر قد تشكل الأجزاء نوعًا من القشرة المخية الحديثة ، مما يوفر قابلية للتوسع قوة المعالجة ، بينما يوفر الجزء العضوي ما نحن البشر الطبيعيين لطالما كانت جيدة في: الرغبة ، وتحديد الأهداف والأهداف. ~ "
- كثير من الناس المتحمسين للتفرد ، ينظرون تضخيم الذكاء كطريق آمن ومريح. بعد كل شيء ، إذا لقد أصبحت أكثر ذكاءً وذكاءً ، فقد تكون التفردية كذلك شفافة وقابلة للملاحة مثل الثورات التكنولوجية السابقة.
- إذا حدث تضخيم الذكاء المتطرف فجأة ، فلا أعتقد أنه سيكون على وجه الخصوص آمنة؛ نحن البشر بطبيعتنا دمويون. من ناحية أخرى ، يمكن لـ تضخيم الذكاء المضي قدما بطريقة تدريجية.
- الحياة البيولوجية لها فضائلها (انظر المزيد في هذا الحديث) ، ولكن في هذا السياق، الحياة البيولوجية ليس لها أرجل.
Computer Networks plus Humanity
شبكات الكمبيوتر بالإضافة إلى الإنسانية
- There were also a number of papers at AAAI-10/IAAI-10 in this area. In 2010, Humans plus the cloud is already evidence of radical intellectual change in Human culture. The Human side is limited to a few billion people, no matter how effective the networks. The machine and network side has a lot more headroom.
- Along with IA, this path to the Singularity gives hope that something like humanity can provide guidance to further progress.
- كان هناك أيضًا عدد من الأوراق في AAAI-10 / IAAI-10 في هذا المجال. في 2010 ، البشر بالإضافة إلى السحابة دليل بالفعل على الفكر الراديكالي التغيير في الثقافة البشرية. يقتصر الجانب البشري على بضعة مليارات الناس ، بغض النظر عن مدى فعالية الشبكات. جانب الجهاز والشبكة لديها مساحة أكبر بكثير.
- إلى جانب تضخيم الذكاء ، يمنح هذا المسار إلى التفرد الأمل في أن شيئًا ما مثل الإنسانية يمكن أن توفر التوجيه لمزيد من التقدم.
Digital Gaia: Fine-grained distributed systems
الارض الرقمية: أنظمة موزعة دقيقة الحبيبات
- Extreme ubiquity of networked sensors/effectors/logic, both free-standing and embedded in ourselves and all our artifacts.
- An aside: If you popularize the notion of the Technological Singularity, you will run into journalists (and friends :-) who say: "But isn't this Singularity stuff isomorphic to claims of religious apocalypse? You know -- a Rapture of the Nerds?" (Ray Kurzweil had a good-natured response to this sort of question with the picture on page 368 of his book, The Singularity Is Near.)
- As of 2010, Digital Gaia seems a clearcut, credible path to the Singularity. But if there is any religious isomorphism to claims about Digital Gaia, it would be with animism, not apocalypse.Thus, there are religious analogies in all directions, but that's mainly because we are an era where technology interacts with the deepest issues of mind and philosophy.
- Science-fiction writer Karl Schroeder has written a number of novels about the fine-grain, distributed scenario, in particular:
-- Ventus -- the conflict between cloudy "big iron" and ubiquity is pursued into the far future, where reality has become its own database.
-- The Sunless Countries -- wherein the dust motes are so powerful that when asked to produce an artifact (say an aircraft), they evolve it on the spot.
- الانتشار الواسع لأجهزة الاستشعار / المؤثرات / المنطق الشبكي ، كلاهما قائمة بذاتها ومضمنة في أنفسنا وجميع أعمالنا الفنية.
- جانبا: إذا قمت بنشر فكرة التفرد التكنولوجي ، سوف تصادف الصحفيين (والأصدقاء :-) الذين يقولون: "لكن أليس هذا مادة التفرد متشابهة مع ادعاءات نهاية العالم الدينية؟ أنت تعرف -- نشوة الطرب من المهووسين؟ "(كان رد فعل راي كورزويل لطيفًا على هذا النوع من الأسئلة مع الصورة في الصفحة 368 من كتابه ، المنفردة قريبة
- اعتبارًا من عام 2010 ، تبدو الارض رقمية طريقًا واضحًا وموثوقًا به إلى ملف التفرد. ولكن إذا كان هناك أي تماثل ديني في الادعاءات جايا الرقمية ، سيكون الأمر مع الروحانية ، وليس نهاية العالم المقارنات الدينية في جميع الاتجاهات ، ولكن هذا يرجع أساسًا إلى كوننا أحد عصر تتفاعل فيه التكنولوجيا مع أعمق قضايا العقل و فلسفة.
- كتب كاتب الخيال العلمي كارل شرودر عددًا من الروايات حول سيناريو التوزيع الدقيق ، على وجه الخصوص:
-- فينتوس -- يتم متابعة الصراع بين غائم "الحديد الكبير" و في كل مكان المستقبل البعيد ، حيث أصبح الواقع قاعدة بياناته الخاصة.
-- بلاد بلا شمس -- حيث تكون ذرات الغبار قوية جدًا لدرجة أنه عندما يُطلب منها إنتاجها قطعة أثرية (مثل طائرة) ، يطورونها على الفور.
The difference between a trend and an avalanche
الفرق بين الموضة والانهدام الثلجي
From year to year, watching these developments gives me the feeling that I'm seeing not a trend, but an avalanche. (For an amusing -- and chilling -- riff on tech inevitability, see Charles Stross's short story, "Antibodies".)
- Over the last twenty years, those who are enthusiastic about the Singularity have concentrated on human-centered possibilities:
-- Intelligence Amplification
-- Mind uploads
-- Virtual realities (though the most extreme version of VR is analogous to still another style of religion).
- While these are interesting, they are only a part of the broad range of possibilities coming our way.
- While these are interesting, they are only a part of the broad range of possibilities coming our way.
There's another consequence of this broad advance. What if most or all of the above approaches are successful?
من عام إلى آخر ، تعطيني مشاهدة هذه التطورات الشعور بأنني كذلك لا أرى اتجاهًا ، بل إنهيارًا جليديًا. (مسلية - وتقشعر لها الأبدان - ثائر حول حتمية التكنولوجيا ، انظر قصة تشارلز ستروس القصيرة ، "الأجسام المضادة".)
- على مدار العشرين عامًا الماضية ، كان المتحمسون لـ ركزت التفرد على الاحتمالات المتمحورة حول الإنسان:
-- تضخيم الذكاء
-- تحميلات العقل
-- الواقع الافتراضي (على الرغم من أن النسخة الأكثر تطرفًا من متشابهة لا يزال نمطًا آخر من الدين).
- في حين أن هذه مثيرة للاهتمام ، فهي ليست سوى جزء من النطاق الواسع لـ الاحتمالات في طريقنا.
- في حين أن هذه مثيرة للاهتمام ، فهي ليست سوى جزء من النطاق الواسع لـ الاحتمالات في طريقنا.
هناك نتيجة أخرى لهذا التقدم الواسع. ماذا لو كان معظم أو كل الأساليب المذكورة أعلاه ناجحة؟
Looking for historical (or paleontological) precedents
البحث عن السوابق التاريخية (أو القديمة)
I used to think that the best analogous prior event to the Singularity was the rise of the Humankind within the animal kingdom. That event certainly had the quality of unknowability (for the animal precursors of Humans).
I still think the rise of Humans is the most recent analog of the Singularity, but I've come to think that there is another event that may be more like what is happening now. That is the Cambrian Explosion -- the "sudden" appearance about half a billion years ago of a great variety of complex, new life forms.
The events of the Cambrian Explosion stretched across millions of years; the upcoming era could see as much variety and change in decades. A major question is whether the potential varieties of mind will be realized, or be blocked by the "first-movers". Of course, another question is what happens to us ordinary Humans, and to superhumans that still have Human-like thought processes!
كنت أعتقد أن أفضل حدث سابق مشابه للتفرد كان صعود الجنس البشري داخل مملكة الحيوان. هذا الحدث بالتأكيد كانت ذات جودة عدم المعرفة (لسلائف الحيوانات من البشر).
ما زلت أعتقد أن صعود البشر هو أحدث نظير لـ التفرد ، لكني أصبحت أعتقد أن هناك حدثًا آخر قد يكون كذلك أشبه بما يحدث الآن. هذا هو الانفجار الكمبري - ال ظهور "مفاجئ" منذ حوالي نصف مليار سنة لمجموعة كبيرة ومتنوعة من أشكال حياة معقدة وجديدة.
امتدت أحداث الانفجار الكمبري عبر ملايين السنين. ال يمكن أن يشهد العصر القادم قدرًا كبيرًا من التنوع والتغيير في العقود. أساسي السؤال هو ما إذا كانت الأصناف العقلية المحتملة ستتحقق أم ستتحقق تم حظره من قبل "المحركون الأولون". بالطبع ، سؤال آخر هو ماذا يحدث بالنسبة لنا نحن البشر العاديين ، وللأشخاص الخارقين الذين لا يزال لديهم فكر بشري العمليات!
Mitigating factors
العوامل المخففة
- We and our nearterm enhancements are a form of first-mover. Despite biological limitations, we are in a position to keep up with early events, perhaps even influence them.
- What is the unit of natural selection in this new era? Getting an answer to this question (or creating an answer!) may be the most important issue with regard to longterm optimism about the new era.
- In fact, contrary to Bill Joy's assessment, the future may need us (or something very like us):
- نحن وتحسيناتنا القريبة هي شكل من أشكال الحركة الأولى. على الرغم من القيود البيولوجية ، نحن في وضع يسمح لنا بمواكبة الأحداث المبكرة ، ربما تؤثر عليهم.
- ما هي وحدة الانتقاء الطبيعي في هذا العصر الجديد؟ الحصول على إجابة على هذا السؤال (أو إنشاء إجابة!) قد يكون الموضوع الأكثر أهمية فيما يتعلق بالتفاؤل على المدى الطويل بشأن العصر الجديد.
- في الواقع ، على عكس تقييم بيل جوي ، قد يحتاجنا المستقبل (أو شيء يشبهنا جدًا):
Life considered as subroutine-threaded code
تعتبر الحياة رمزًا مترابطًا فرعيًا
A basic principle for most conservation and green groups is the interdependence of living things. I think this principle is valid at all levels, if one is careful with definitions; it is starkly evident at the cellular level.
Just as higher biological life can't survive without much of the rest of the domain of life, some of the deficiencies of machines compared to biological life may never be cured!
Even if this aeons-long tradition of operational dependence is broken by the machines, post-Singularity life should welcome the continued presence of creatures like good old-fashioned, natural Humans. After all, existential disasters can happen to anybeing, and Humans are the all-purpose backup.
مبدأ أساسي لمعظم مجموعات الحفظ والأخضر هو الترابط بين الكائنات الحية. أعتقد أن هذا المبدأ صالح على جميع المستويات ، إذا كان المرء حريصًا في التعاريف ؛ إنه واضح بشكل صارخ على المستوى الخلوي.
تمامًا كما لا يمكن للحياة البيولوجية الأعلى أن تحيا بدون الكثير من بقية مجال الحياة ، بعض أوجه القصور في الآلات مقارنة البيولوجية قد لا تُشفى الحياة أبدًا!
حتى لو تم كسر هذا التقليد الطويل من الاعتماد التشغيلي بواسطة الآلات ، يجب أن ترحب حياة ما بعد التفرد بالوجود المستمر لـ مخلوقات مثل البشر الطيبين والطبيعيين. بعد كل شيء ، وجودي يمكن أن تحدث الكوارث لأي شخص ، والبشر هم النسخ الاحتياطي لجميع الأغراض.