كل ما تحتاج لمعرفته حول الوصول إلى الذكاء الاصطناعي والتفرد

 

التفرد هو نقطة اللاعودة لـ الذكاء الاصطناعي. هل يجب أن نقلق؟

لقد كان برنامج ChatGPT وغيره من برامج الذكاء الاصطناعي من المواضيع الساخنة في الأخبار في الآونة الأخيرة، مما أدى في نفس الوقت إلى إثارة الأعصاب وإثارة اهتمامنا بإمكانيات جديدة في الطب واللغويات وحتى القيادة الذاتية. هناك الكثير من "ماذا لو" في هذا المستقبل المتصل، مما يجعلنا نعيد التفكير في كل شيء بدءًا من الروبوتات القاتلة وحتى أمننا الوظيفي .

فهل يجب علينا أن نتراجع خطوة عن هذا النوع من الذكاء الاصطناعي المشحون لتهدئة مخاوفنا؟ يعتمد ذلك على من تسأل، ولكن الأمر برمته يتلخص في فكرة التفرد - "أفق الحدث" الذي يتفوق فيه ذكاء الآلة على ذكائنا.

ومن خلال أحد المقاييس، فإن التفرد التكنولوجي قد لا يستغرق سوى سبع سنوات . دفعنا ذلك إلى التواصل مع الخبراء المتخصصين لمعرفة المزيد حول ماهية التفرد بالضبط، ومدى قربنا، وما إذا كان ينبغي لنا أن نبدأ في التعامل مع برنامج Doomsday Preppers الواقعي في أوائل عام 2010 بشكل أكثر جدية.

ما هو التفرد؟

التفرد هو اللحظة التي يصبح فيها ذكاء الآلة مساويا للذكاء البشري أو يفوقه، وهو مفهوم آمن به أصحاب الرؤى مثل ستيفن هوكينج وبيل جيتس لفترة طويلة. قد يبدو ذكاء الآلة معقدًا، ولكن يتم تعريفه ببساطة على أنه حوسبة متقدمة تسمح للجهاز بالتفاعل (من خلال جهاز كمبيوتر أو هاتف أو حتى خوارزمية) والتواصل مع بيئته بذكاء.

لقد كان مفهوم التفرد موجودًا منذ عقود. قام عالم الرياضيات الإنجليزي آلان تورينج - الذي يُنظر إليه على نطاق واسع باعتباره أب علوم الكمبيوتر النظرية والذكاء الاصطناعي - بتجربة إمكانية حدوث شيء من هذا القبيل في الخمسينيات من القرن العشرين. لقد توصل إلى اختبار تورينج الشهير لمعرفة ما إذا كانت الآلات يمكنها التفكير بنفسها؛ يضع التقييم الإنسان في مواجهة جهاز كمبيوتر، ويتحدى النظام ليخدعنا للاعتقاد بأنه في الواقع إنسان. أدى الظهور الأخير لروبوتات الدردشة المتقدمة للغاية التي تعمل بالذكاء الاصطناعي مثل ChatGPT إلى إعادة اختبار تورينج إلى دائرة الضوء. تنبيه المفسد: لقد تم تجاوزه بالفعل.

يقول إيشاني بريادارشيني ، باحث ما بعد الدكتوراه في جامعة كاليفورنيا في بيركلي والذي يتمتع بخبرة في الذكاء الاصطناعي التطبيقي والتفرد التكنولوجي، لمجلة Popular Mechanics :

 “الفرق بين ذكاء الآلة والذكاء البشري هو أن ذكائنا ثابت ولكن هذا ليس هو الحال بالنسبة للآلات” 

. "في حالة الآلات، ليس هناك نهاية لذلك، يمكنك دائمًا زيادته، وهذا ليس هو الحال بالنسبة للبشر". على عكس أدمغتنا، يمكن توسيع أنظمة الذكاء الاصطناعي عدة مرات؛ القيد الحقيقي هو المساحة لاستيعاب كل قوة الحوسبة.

متى سنصل إلى التفرد؟

في حين أن الادعاءات بأننا سوف نصل إلى التفرد خلال العقد المقبل منتشرة في جميع أنحاء شبكة الإنترنت، إلا أنها في أحسن الأحوال مجرد تخمينات. يعتقد بريادارشيني أن التفرد موجود بالفعل في أجزاء وأجزاء، مثل اللغز الذي لم نكمله بعد. وهي تدعم التقديرات التي تزعم أننا يمكن أن نصل إلى التفرد في وقت ما بعد عام 2030 ، مضيفة أنه من الصعب أن نكون متأكدين تماما مع التكنولوجيا التي لا نعرف عنها سوى القليل. هناك احتمال حقيقي للغاية بأن يستغرق الأمر وقتًا أطول من ذلك بكثير للوصول إلى "أفق الحدث" الخاص بالتفرد - نقطة اللاعودة عندما نطلق العنان لأنظمة الكمبيوتر فائقة الذكاء .

ومع ذلك، فقد رأينا بالفعل علامات التفرد في حياتنا. يقول بريادارشيني: "هناك ألعاب لا يمكن للبشر الفوز بها أبدًا من خلال الآلات، وهذه علامة أكيدة على التفرد". لتقديم بعض المنظور، كان الكمبيوتر العملاق " Deep Blue " الذي أنتجته شركة IBM عام 1997 هو أول ذكاء اصطناعي يهزم لاعب شطرنج بشري. ولم يكتفوا بوضع جو شمو للمضرب فحسب، بل واجه ديب بلو غاري كاسباروف، الذي كان بطل العالم في الشطرنج في ذلك الوقت.

لا يزال مفهوم التفرد صعب القياس. وحتى اليوم، فإننا نكافح من أجل العثور على علامات تقدمنا ​​نحو ذلك. يزعم العديد من الخبراء أن ترجمة اللغات هي بمثابة حجر رشيد لقياس مدى تقدمنا؛ على سبيل المثال، عندما يكون الذكاء الاصطناعي قادرًا على ترجمة الكلام بنفس المستوى أو أفضل من الإنسان، فسيكون ذلك علامة جيدة على أننا قد اقتربنا خطوة من التفرد.

ومع ذلك، يعتقد بريادارشيني أن الميمات، من بين كل الأشياء، يمكن أن تكون علامة أخرى على تقدمنا ​​نحو التفرد، حيث أن الذكاء الاصطناعي سيئ للغاية في فهمها.

ما هو الممكن بمجرد وصول الذكاء الاصطناعي إلى التفرد؟

ليس لدينا أي فكرة عما يمكن أن يفعله نظام فائق الذكاء. يقول رومان يامبولسكي ، الأستاذ المشارك في هندسة الكمبيوتر وعلوم الكمبيوتر في جامعة لويزفيل، لمجلة Popular Mechanics : "نحن بحاجة إلى أن نكون فائقي الذكاء" . نحن قادرون فقط على التكهن باستخدام مستوى ذكائنا الحالي.

كتب يامبولسكي مؤخرًا ورقة بحثية حول توقع الذكاء الاصطناعي للقرارات التي يمكن أن يتخذها الذكاء الاصطناعي. وهذا أمر مزعج إلى حد ما. "يجب أن تكون على الأقل على هذا القدر من الذكاء حتى تتمكن من التنبؤ بما سيفعله النظام. . . يقول: "إذا كنا نتحدث عن أنظمة أكثر ذكاءً من البشر [فائقة الذكاء] فمن المستحيل بالنسبة لنا التنبؤ بالاختراعات أو القرارات".

يقول بريادارشيني إنه من الصعب تحديد ما إذا كان الذكاء الاصطناعي لديه نوايا سيئة أم لا؛ وتقول إن الذكاء الاصطناعي المارق يرجع فقط إلى التحيز في شفرته، وهو في الأساس تأثير جانبي غير متوقع لبرمجتنا. والأهم من ذلك، أن الذكاء الاصطناعي ليس أكثر من مجرد عملية صنع قرار بناءً على مجموعة من القواعد والمعايير. يقول بريادارشيني: "نريد سيارات ذاتية القيادة، لكننا لا نريدها أن تتخطى الإشارة الحمراء وتصطدم بالركاب". في الأساس، قد ترى السيارات ذاتية القيادة أن تجاوز الأضواء الحمراء والبشر هو الطريقة الأكثر فعالية للوصول إلى وجهتها في الوقت المناسب.

الكثير من هذا يتعلق بمفهوم المجهول المجهول، حيث لا نملك القدرة العقلية للتنبؤ بدقة بما تستطيع الأنظمة فائقة الذكاء فعله. في الواقع، تشير تقديرات شركة IBM حاليًا إلى أن ثلث المطورين فقط يعرفون كيفية اختبار هذه الأنظمة بشكل صحيح بحثًا عن أي تحيز محتمل قد يمثل مشكلة. ولسد هذه الفجوة، طورت الشركة حلاً جديدًا يسمى FreaAI يمكنه اكتشاف نقاط الضعف في نماذج التعلم الآلي من خلال فحص شرائح البيانات "القابلة للتفسير البشري". من غير الواضح ما إذا كان هذا النظام يمكنه تقليل التحيز في الذكاء الاصطناعي، ولكن من الواضح أنه يتقدم خطوة أمامنا نحن البشر.

«يعلم باحثو الذكاء الاصطناعي أننا لا نستطيع إزالة التحيز بنسبة 100% من الكود. . . لذا، فإن بناء ذكاء اصطناعي غير متحيز بنسبة 100%، ولن يرتكب أي خطأ، سيكون أمرًا صعبًا.»

كيف يمكن للذكاء الاصطناعي أن يؤذينا؟

الذكاء الاصطناعي ليس واعيًا حاليًا، مما يعني أنه غير قادر حاليًا على التفكير والإدراك والشعور بالطريقة التي يفعلها البشر. غالبًا ما يتم الخلط بين التفرد والوعي، لكن لا يرتبطان ارتباطًا وثيقًا.

على الرغم من أن الذكاء الاصطناعي ليس واعيًا حاليًا ، فإن هذا لا يعفينا من العواقب غير المقصودة للذكاء الاصطناعي المارق؛ هذا يعني ببساطة أن الذكاء الاصطناعي ليس لديه أي دافع للاحتيال. "ليس لدينا أي طريقة لاكتشاف أو قياس أو تقدير ما إذا كانت الأنظمة تعاني من حالات داخلية. . .

 يقول يامبولسكي: "لكنهم لا يحتاجون إلى ذلك حتى يصبحوا قادرين للغاية وخطرين للغاية". ويذكر أيضًا أنه حتى لو كانت هناك طريقة لقياس الوعي، فإننا لا نعرف حتى ما إذا كان الوعي ممكنًا في الآلات.

هذا يعني أننا لا نعرف ما إذا كنا سنرى يومًا ما نسخة حقيقية من Ava ، الروبوت البشري من Ex Machina الذي يتمرد على صانعيه للهروب من الأسر العديد من سيناريوهات يوم القيامة التي يعرضها الذكاء الاصطناعي في هوليوود هي مجرد سيناريوهات. . . خيالي. يقول بريادارشيني: "الشيء الوحيد الذي أؤمن به إلى حد ما هو أن الذكاء الاصطناعي ليس سوى رمز". "قد لا يكون لها أي دوافع ضد البشر، ولكن الآلة التي تعتقد أن البشر هم السبب الجذري لمشاكل معينة قد تفكر في الأمر بهذه الطريقة." وأي خطر يشكله على البشر هو ببساطة تحيز في الكود الذي ربما فاتنا. هناك طرق للتغلب على هذا، لكننا نستخدم فقط فهمنا للذكاء الاصطناعي، وهو فهم محدود للغاية.

يرجع الكثير من هذا إلى حقيقة أننا لا ندرك ما إذا كان الذكاء الاصطناعي يمكن أن يصبح واعيًا؛ وبدون ذلك، ليس لدى الذكاء الاصطناعي أي سبب لملاحقتنا. الاستثناء الوحيد الملحوظ لذلك هو حالة صوفيا صوفيا ، وهي روبوت دردشة يعمل بالذكاء الاصطناعي قالت إنها تريد تدمير البشر. ومع ذلك، يُعتقد أن هذا خطأ في البرنامج النصي لبرنامج الدردشة الآلية. يقول بريادارشيني: "طالما أن هناك تعليمات برمجية سيئة، فإن التحيز سيكون موجودًا، وسيظل الذكاء الاصطناعي مخطئًا".

القيادة الذاتية تتجه نحو المارقة

وفي حديثها عن التحيز، ذكر بريادارشيني ما أشارت إليه بـ "الحالة الكلاسيكية للسيارة ذاتية القيادة ". في موقف افتراضي، يقود خمسة أشخاص سيارة ذاتية القيادة على الطريق، ويقفز شخص واحد إلى الطريق. إذا لم تتمكن السيارة من التوقف في الوقت المناسب، فهي لعبة حسابية بسيطة: واحد مقابل خمسة. "سوف يقتل راكبًا واحدًا لأن راكبًا واحدًا أصغر من خمسة، لكن لماذا يصل الأمر إلى هذه النقطة؟" يقول بريادارشيني.

نود أن نفكر في الأمر باعتباره نسخة جديدة من القرن الحادي والعشرين لمشكلة العربة الأصلية . إنها تجربة فكرية شهيرة في الفلسفة وعلم النفس تضعك في معضلة افتراضية كمشغل عربة ترولي بدون فرامل. تصور هذا: أنت تنحرف على المسارات بسرعات غير آمنة. ترى خمسة أشخاص على مسافة بعيدة على القضبان (من المؤكد أن يتم دهسهم)، ولكن لديك خيار تحويل العربة إلى مسار مختلف مع وجود شخص واحد فقط في الطريق. بالتأكيد، واحد أفضل من خمسة، لكنك اتخذت قرارًا واعيًا بقتل هذا الشخص.

الذكاء الاصطناعي الطبي يصبح مارقًا

وأشار يامبولسكي إلى حالة الذكاء الاصطناعي الطبي المكلف بتطوير لقاحات كوفيد. ويذكر أن النظام سيكون على دراية بأن المزيد من الأشخاص الذين يصابون بكوفيد سيؤدي إلى تحور الفيروس، مما يزيد من صعوبة تطوير لقاح لجميع المتغيرات . "النظام يفكر . . . ربما أستطيع حل هذه المشكلة عن طريق تقليل عدد الأشخاص، حتى لا نتمكن من التحور كثيرًا. من الواضح أننا لن نتخلى تمامًا عن نظامنا للتجارب السريرية، لكن هذا لا يوقف حقيقة أن الذكاء الاصطناعي يمكنه تطوير لقاح يمكن أن يقتل الناس.

"هذا أحد السيناريوهات المحتملة التي يمكنني التوصل إليها من مستوى ذكائي. . . يقول يامبولسكي: "سيكون لديك الملايين من السيناريوهات المشابهة بمستوى أعلى من الذكاء". وهذا ما نواجهه مع الذكاء الاصطناعي.

كيف يمكننا منع كارثة التفرد؟

لن نتمكن أبدًا من تخليص الذكاء الاصطناعي من أي من مجاهيله المجهولة. هذه هي الآثار الجانبية غير المقصودة التي لا يمكننا التنبؤ بها لأننا لسنا فائقي الذكاء مثل الذكاء الاصطناعي. يكاد يكون من المستحيل معرفة ما تستطيع هذه الأنظمة فعله.

يقول بريادارشيني: "إننا ننظر حقًا إلى التفرد الذي يؤدي إلى ظهور عدد كبير من الآلات المارقة". وإذا وصل إلى نقطة اللاعودة، فلا يمكن التراجع عنه". لا يزال هناك الكثير من الأشياء المجهولة حول مستقبل الذكاء الاصطناعي، لكن يمكننا جميعًا أن نتنفس الصعداء عندما نعلم أن هناك خبراء حول العالم ملتزمون بجني الخير من الذكاء الاصطناعي دون أي سيناريوهات يوم القيامة التي قد نفكر فيها. لدينا حقًا فرصة واحدة فقط لتصحيح الأمر.