Vernor Vinge | فيرنور فينج

24-06-2012

Group Minds

عقول المجموعة

The Technological Singularity

المنفردة التقنية

It seems plausible that with technology we can, in the fairly near future, create (or become) creatures who surpass humans in every intellectual and creative dimension.

يبدو من المعقول أنه مع التكنولوجيا ، يمكننا ، في المستقبل القريب إلى حد ما ، إنشاء (أو أن نصبح) مخلوقات تتفوق على البشر في كل بُعد فكري وإبداعي.

Paths to the Singularity

الطرق الى المنفردة

each with its special flavor and danger and promise (though developments are concurrent and interacting):

- Artificial Intelligence (AI)

- Intelligence Amplification (IA)

- Computer Networks plus Humanity

- Digital Gaia: Fine-grained distributed systems

- Biomedical improvements to human intelligence

Today I want to talk about the path that nowadays is most obviously a big win: Computer Networks plus Humanity = Social Networks = Group minds

لكل منها نكهته الخاصة وخطورته ووعده (على الرغم من أن التطورات متزامنة ومتفاعلة):

- الذكاء الاصطناعي (AI)

- تضخيم الذكاء (IA)

- شبكات الكمبيوتر بالإضافة إلى الإنسانية

- الارض الرقمية: أنظمة موزعة دقيقة الحبيبات

- تحسينات طبية حيوية للذكاء البشري

اليوم أريد أن أتحدث عن المسار الذي يعتبر اليوم فوزًا كبيرًا بشكل واضح: شبكات الكمبيوتر بالإضافة إلى الإنسانية = الشبكات الاجتماعية = عقول المجموعة

A taxonomy of Group Minds

تصنيف عقول المجموعة

We might consider these group minds as new kinds of animals, creatures that swim in the sea of modern civilization. Let's try to classify these minds by:

- Origin: top down versus bottom up

- Supporting hardware and software

-- For hardware: Several of the categories discussed below might be nearly empty if not for wearable computing and ubiquitous sensors and effectors.

-- Novel interface software, intermediate pipelines, and backend processing are key to making the wildest group mind schemes successful.

- Goal

-- Narrow focus -- crowdsourcing

-- Broad focus

- How members are motivated to participate -- a glimpse of the future of human employment.

- Demography

-- Number of members ( 2 <= n <=7.0e9 )

-- Distribution of members (by age, geography, ...)

-- Physical resources of members

- Longevity (from seconds to forever (10 years, say :-) )

- Agility

-- How fast can goals, policies, tactics be changed?

-- Response time (microseconds to days)

-- Spatial resolution of attention and response This could range from "No sparrow shall fall" all the way down to organizations that don't track anything smaller than continental weather patterns.

- Form of interaction with other group minds

- Governance

-- Emergent

-- Democratic

--- Classic

--- Demarchy (Outcasts of Heaven Belt, by Joan D. Vinge, 1978)

-- Charismatic leader (an extreme top-down case)

-- Commercial service (the most common form nowadays)

-- Puppetry (run by another group)

-- Opaque

--- cell-structured secret societies

--- networks where even members don't know of their own membership

- Infectiousness (how fast can the group acquiring new members and/or resources?)

- Malignancy (is the group griefing, stealing, killing, blowing things up?)

- Weaknesses. This list will be very long, with new possibilities being unhappily discovered all the time. But surely it would include susceptibility to:

-- legal attack

-- physical attack (police or kinetic military)

-- denial of service attack

-- hijacking

-- infiltration

-- misinformation

-- implantables failure such as imagined in h+

Comments on two particular group mind possibilities:

قد نعتبر هذه العقول الجماعية أنواعًا جديدة من الحيوانات ، مخلوقات تسبح في بحر الحضارة الحديثة. دعونا نحاول تصنيف هذه العقول بواسطة:

- الأصل: من أعلى إلى أسفل مقابل من أسفل إلى أعلى

- دعم الأجهزة والبرامج

-- بالنسبة للأجهزة: قد تكون العديد من الفئات التي تمت مناقشتها أدناه فارغة تقريبًا إذا ليس للحوسبة القابلة للارتداء وأجهزة الاستشعار والمؤثرات في كل مكان.

-- تعد برامج الواجهة الجديدة وخطوط الأنابيب الوسيطة والمعالجة الخلفية هي المفتاح لإنجاح أعنف المخططات الذهنية الجماعية.

- الهدف

-- ضيق التركيز - التعهيد الجماعي

-- تركيز واسع

- كيف يتم تحفيز الأعضاء للمشاركة - لمحة عن مستقبل التوظيف البشري.

- الديموغرافيا

-- عدد الأعضاء (2 <= n <=7.0e9)

-- توزيع الأعضاء (حسب العمر والجغرافيا ...)

-- الموارد المادية للأعضاء

- طول العمر (من الثواني إلى الأبد (10 سنوات ، قل :-))

- رشاقة

-- ما مدى سرعة تغيير الأهداف والسياسات والتكتيكات؟

-- وقت الاستجابة (ميكروثانية إلى أيام)

-- الدقة المكانية للانتباه والاستجابة يمكن أن يتراوح هذا من "لا يجب أن يسقط عصفور" وصولاً إلى المنظمات التي لا تتبع أي شيء أصغر من أنماط الطقس القارية.

- شكل من أشكال التفاعل مع عقول المجموعة الأخرى

- الحكم

-- طارئ

-- ديمقراطي

--- كلاسيك

--- ديماركي (منبوذين من حزام السماء ، بقلم جوان دي فينج ، 1978)

-- زعيم كاريزمي (حالة متطرفة من أعلى إلى أسفل)

-- الخدمة التجارية (الشكل الأكثر شيوعًا في الوقت الحاضر)

-- الدمى (تديرها مجموعة أخرى)

-- مبهمة

--- الجمعيات السرية الهيكلية الخلوية

--- الشبكات التي حتى الأعضاء لا يعرفون عضويتهم

- العدوى (ما مدى سرعة اكتساب المجموعة لأعضاء و / أو موارد جديدة؟)

- ورم خبيث (هل المجموعة تحزن ، تسرق ، تقتل ، تفجر الأشياء؟)

- نقاط الضعف. ستكون هذه القائمة طويلة جدًا ، مع اكتشاف احتمالات جديدة للأسف الوقت. لكن من المؤكد أنها ستشمل القابلية لما يلي:

-- هجوم قانوني

-- هجوم فيزيائي (شرطة أو جيش حركي)

-- هجوم الحرمان من الخدمة

-- الاختطاف

-- تسرب

-- معلومات مضللة

-- يزرع فشل مثل تخيل في h+

تعليقات على احتمالين معينين لعقل المجموعة:

What common sense may become...

ما الفطرة السليمة قد تصبح ...

in mid- and large-size groups with deep, real-time computational support.

- Personal aides to supplement Daniel Kahneman's S1 and S2 systems.

- Automatic provision of global statistical analysis to personal questions

-- Encouragement of self-goals (as with Prius mpg gamers).

- Arbitrage of risk in personal decision making

-- In Kahneman's terminology, we will see a rise in "Econ" mentality in everyday life.

-- A good fictional example is the short story "Maneki Neko", Bruce Sterling, F&SF, May 1998, reprinted in A Good Old-Fashioned Future, Bantam Spectra, 1999.

- Will people put up with this? Does it count as suppression of human intelligence?

-- On the whole, I argue the opposite. These developments would make the Public the most powerful intellectual player of 2013-2019. Nevertheless, there are dangers to worry about, including:

-- If this new automation were to be lost, it would be a disaster (cf the attitude of the young refugees in The Children of the Sky)

-- There's great potential for abuse in such systems, especially in top-down social network services.

-- And there's an ethical issue: The outsourcing of moral responsibility.

- What value is there in non-participants?

-- Try to imagine what couldn't be done by the group

-- How to calibrate and collaborate with expert individuals

في المجموعات متوسطة وكبيرة الحجم مع دعم حسابي عميق في الوقت الفعلي.

- المساعدون الشخصيون لتكملة أنظمة دانيال كانيمان S1 و S2.

- توفير تلقائي للتحليل الإحصائي الشامل للأسئلة الشخصية

-- تشجيع الأهداف الذاتية (كما هو الحال مع لاعبي بريوس ميلا في الغالون).

- تحكيم المخاطر في اتخاذ القرارات الشخصية

-- في مصطلحات كانيمان ، سنرى ارتفاعًا في عقلية "الاقتصاد" في الحياة اليومية.

-- من الأمثلة الخيالية الجيدة القصة القصيرة "مانيكي نيكو" بروس ستيرلينغ ، F&SF ، مايو 1998 ، أعيد طبعه في مستقبل جيد قديم الطراز ، بانتام سبكترا ، 1999.

- هل سيتحمل الناس هذا؟ هل يعتبر قمعًا للإنسان الذكاء؟

-- على العموم ، أنا أجادل بالعكس. هذه التطورات من شأنها أن تجعل الجمهور أقوى لاعب فكري 2013-2019. مع ذلك، هناك مخاطر تدعو للقلق منها:

-- إذا ضاعت هذه الأتمتة الجديدة ، فستكون كارثة (راجع موقف اللاجئين الشباب في أطفال السماء)

-- هناك احتمال كبير لسوء الاستخدام في مثل هذه الأنظمة ، خاصة في خدمات الشبكة الاجتماعية من أعلى إلى أسفل.

-- وهناك قضية أخلاقية: الاستعانة بمصادر خارجية للمسؤولية الأخلاقية.

- What value is there in non-participants?

-- حاول أن تتخيل ما لا تستطيع المجموعة فعله

-- كيفية المعايرة والتعاون مع الأفراد الخبراء

Large group minds with broad goals: populisms

عقول مجموعة كبيرة ذات أهداف واسعة: الشعبوية

Here I mean not only a large number of seriously participating members (tens of millions to billions), but also membership that includes a broad range of humanity and broad goals.On the largest scale, such populism is a kind of "over-creature" in the taxonomy proposed above. (Eg, see Gregory Stock's nonfiction book Metaman.)

On the whole, I regard this type of group mind as a very positive thing, but there is dangerous variety: nationalistic populism in a large country. Such could arise as a kind of enormous virtual network partition, encouraged perhaps by government(s). A large, nationalistic group mind could be similar to, much more of the bad thing than populisms of the past, running away with the original policies of the government(s) that encouraged it.

هنا لا أعني فقط عددًا كبيرًا من الأعضاء المشاركين بجدية (عشرات من الملايين إلى المليارات) ، ولكن أيضًا عضوية تشمل مجموعة واسعة من الإنسانية والأهداف العامة: على نطاق واسع ، هذه الشعبوية هي نوع من "الإفراط في المخلوق" في التصنيف المقترح أعلاه. (على سبيل المثال ، انظر Gregory Stock's كتاب واقعي ميتامان.)

على العموم ، أنا أعتبر هذا النوع من عقل المجموعة أمرًا إيجابيًا للغاية ، لكن هناك تنوع خطير: شعبوية قومية في بلد كبير. مثل يمكن أن تنشأ كنوع من أقسام الشبكة الافتراضية الهائلة ، وتشجيعها ربما من قبل الحكومة (الحكومات). يمكن أن يكون عقل المجموعة القومية الكبيرة متشابهًا إلى ، أكثر بكثير من الشيء السيئ من الشعبوية في الماضي ، يهربون السياسات الأصلية للحكومة (الحكومات) التي شجعتها.

Makers versus Breakers

صناع والهادمون

Over the last fifty years, there has emerged a fundamental peril of technological progress: In principle, tech progress can do miraculous good, but in almost every case it puts even more power in the hands of bad actors. Technology is a scary race between the Breakers and the Makers. The Breakers may be a small minority, but that is balanced by the fact that it's always easier to break things than to make things.

In addition to more-or-less rational motives for wrecking the constructive behavior of group minds, there is a certain kind of Breaker who likes to destroy good works simply because such destruction is possible!

Ten years ago, I would have been fairly skeptical that constructive groups could prevail against the Breakers of the world. In particular, I probably would have said that Breaker friction would cripple inventions like Wikipedia.

Now? Well, Wikipedia is still a story in progress; there may be abuse that could still cause it terrible damage. On the other hand, the success it has had so far is remarkable.

A broad and good-natured populism may be the only thing that has both the grand outlook and the attention to detail to give the Makers an edge.

على مدار الخمسين عامًا الماضية ، ظهر خطر أساسي يتعلق بالتقدم التكنولوجي: من حيث المبدأ ، يمكن للتقدم التكنولوجي أن يفعل الخير المعجزة ، لكنه في كل حالة تقريبًا يضع المزيد من القوة في أيدي الأطراف السيئة. التكنولوجيا سباق مخيف بين الهادمون و الصناع قد تكون الهادمون أقلية صغيرة ، ولكن يتم موازنة ذلك من خلال حقيقة أنه من الأسهل دائمًا كسر الأشياء بدلاً من صنع الأشياء.

بالإضافة إلى الدوافع العقلانية إلى حد ما لتدمير السلوك البناء لعقول المجموعة ، هناك نوع معين من الهادمون يحب تدمير الأعمال الصالحة لمجرد أن مثل هذا التدمير ممكن!

قبل عشر سنوات ، كنت متشككًا إلى حد ما في أن الجماعات البناءة يمكن أن تسود ضد قواطع العالم. على وجه الخصوص ، ربما كنت سأقول أن احتكاك التكسير من شأنه أن يشل الاختراعات مثل ويكيبيديا.

الآن؟ حسنًا ، لا تزال ويكيبيديا قصة قيد التنفيذ. قد يكون هناك إساءة يمكن أن تسبب لها أضرارًا جسيمة. من ناحية أخرى ، فإن النجاح الذي حققته حتى الآن رائع.

قد تكون الشعبوية واسعة النطاق وذات طبيعة جيدة هي الشيء الوحيد الذي لديه كل من النظرة الكبرى والاهتمام بالتفاصيل لمنح صناع ميزة.