-
يمنع منعا باتا توجيه أي إهانات أو تعدي شخصي على أي عضوية أو رأي خاص بعضو أو دين وإلا سيتعرض للمخالفة وللحظر ... كل رأي يطرح في المنتدى هو رأى خاص بصاحبه ولا يمثل التوجه العام للمنتدى او رأي الإدارة أو القائمين علي المنتدى. هذا المنتدي يتبع أحكام القانون المصري......
ChatGPT: كل ما تحتاج لمعرفته حول أداة GPT-3 الخاصة بـ OpenAI
- بادئ الموضوع tayga
- تاريخ البدء
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
فيديو رائع جدا يشرح الذكاء الصناعى وكيفية تعلم الالة ومشكلة سرقة الرسومات للفنانين البشر المحمية بقوانين حقوق الطبع وحقوق الملكية الفكرية بالاضافة الى القلق من هؤلاء الذين يطورون الذكاء الصناعى لانهم مهووسين باليوتوبيا لان هذا الهوس من الممكن ان يجعل اشخاص جيدين بان يرتكبوا افعال شنيعة
الفيديو بعنوان ( محكوم علينا بالاستبدال )
لانة لمن لا يعرف هناك قضايا مرفوعة ضد الشركات والمؤسسات المالكة للذكاء الصناعى المنتج للرسومات مثل Stable Diffusion وهذا الفيديو يشرح الموضوع
الفيديو بعنوان ( محكوم علينا بالاستبدال )
لانة لمن لا يعرف هناك قضايا مرفوعة ضد الشركات والمؤسسات المالكة للذكاء الصناعى المنتج للرسومات مثل Stable Diffusion وهذا الفيديو يشرح الموضوع
اتخذ القرار بانه سيصبح امر واقع سيفرض نفسه تدريجيا !!!
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
بتشائم من الشخصية دي..
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
الكارثة التى توقعها الجميع بدات تحدث
ستستخدم BuzzFeed روبوتات ChatGPT بدلاً من الكتاب للكتابة وقفزت أسهم الشركة بنسبة 150٪
قالت BuzzFeed ، شركة وسائط الإنترنت الشهيرة ، إنها ستعمل مع OpenAI منشئ ChatGPT لاستخدام الذكاء الاصطناعي للمساعدة في إنشاء محتوى على موقعها على الويب.
ذكرت صحيفة وول ستريت جورنال أن BuzzFeed Inc أعلنت في مذكرة أرسلت إلى الموظفين يوم الخميس (26 يناير) أن الشركة ستعتمد على برنامج OpenAI منشئ ChatGPT لتحسين اختباراتها وتخصيص بعض المحتوى لجمهورها.
ماذا قال BuzzFeed: قال الرئيس التنفيذي للشركة Jonah Peretti أن الذكاء الاصطناعي سيلعب دورًا كبيرًا بشكل متزايد في عمليات الشركة. على وجه التحديد ، يخطط لاستخدام التكنولوجيا لتجاوز التنظيم للمساعدة في إنشاء اختبارات شخصية تطرح أسئلة على المستخدمين وتولد نصوصًا مكتوبة بناءً على إجاباتهم.
وقال أيضًا إن الذكاء الاصطناعي سيساعد العمال على تحسين محتواهم. وقال: "لكي نكون واضحين ، نرى الاختراقات في الذكاء الاصطناعي تفتح حقبة جديدة من الإبداع ستسمح للبشر بتسخير الإبداع بطرق جديدة مع فرص وتطبيقات لا نهاية لها من أجل الخير".
ارتفع سهم BuzzFeed بنسبة 150 ٪: بعد انتشار الأخبار التي تفيد بأن BuzzFeed تخطط للاعتماد بشدة على المحتوى الذي يتم إنشاؤه بواسطة AI ، شهدت أسهم الشركة قفزة تصل إلى 150 ٪ في التجارة بعد الظهر في الولايات المتحدة إلى أكثر من 2 دولار للسهم.
فقد سهم BuzzFeed 75٪ منذ طرح الشركة للاكتتاب العام عبر مجموعة SPAC في أواخر عام 2021.
ستستخدم BuzzFeed روبوتات ChatGPT بدلاً من الكتاب للكتابة وقفزت أسهم الشركة بنسبة 150٪
قالت BuzzFeed ، شركة وسائط الإنترنت الشهيرة ، إنها ستعمل مع OpenAI منشئ ChatGPT لاستخدام الذكاء الاصطناعي للمساعدة في إنشاء محتوى على موقعها على الويب.
ذكرت صحيفة وول ستريت جورنال أن BuzzFeed Inc أعلنت في مذكرة أرسلت إلى الموظفين يوم الخميس (26 يناير) أن الشركة ستعتمد على برنامج OpenAI منشئ ChatGPT لتحسين اختباراتها وتخصيص بعض المحتوى لجمهورها.
ماذا قال BuzzFeed: قال الرئيس التنفيذي للشركة Jonah Peretti أن الذكاء الاصطناعي سيلعب دورًا كبيرًا بشكل متزايد في عمليات الشركة. على وجه التحديد ، يخطط لاستخدام التكنولوجيا لتجاوز التنظيم للمساعدة في إنشاء اختبارات شخصية تطرح أسئلة على المستخدمين وتولد نصوصًا مكتوبة بناءً على إجاباتهم.
وقال أيضًا إن الذكاء الاصطناعي سيساعد العمال على تحسين محتواهم. وقال: "لكي نكون واضحين ، نرى الاختراقات في الذكاء الاصطناعي تفتح حقبة جديدة من الإبداع ستسمح للبشر بتسخير الإبداع بطرق جديدة مع فرص وتطبيقات لا نهاية لها من أجل الخير".
ارتفع سهم BuzzFeed بنسبة 150 ٪: بعد انتشار الأخبار التي تفيد بأن BuzzFeed تخطط للاعتماد بشدة على المحتوى الذي يتم إنشاؤه بواسطة AI ، شهدت أسهم الشركة قفزة تصل إلى 150 ٪ في التجارة بعد الظهر في الولايات المتحدة إلى أكثر من 2 دولار للسهم.
فقد سهم BuzzFeed 75٪ منذ طرح الشركة للاكتتاب العام عبر مجموعة SPAC في أواخر عام 2021.
من فضلك,
تسجيل الدخول
أو
تسجيل
لعرض المحتوي!
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
لمن لا يعرف ما هى BuzzFeed
هى وكالة اعلامية امريكية تميل الى اليسار الاقصى وبدات تنحدر من 2014 الى مستنقع التعصب والجنون اليسارى وكان متوقع لهذة الوكالة الاعلامية ان تنتهى بسبب خسائرها وانهيار سعر اسمها فى العامين الاخيرين
واضح ان ChatGPT هايديهم عمر اضافى
هى وكالة اعلامية امريكية تميل الى اليسار الاقصى وبدات تنحدر من 2014 الى مستنقع التعصب والجنون اليسارى وكان متوقع لهذة الوكالة الاعلامية ان تنتهى بسبب خسائرها وانهيار سعر اسمها فى العامين الاخيرين
واضح ان ChatGPT هايديهم عمر اضافى
ان شاء الله هيحولها الى اليمين القومي ..لان الذكاء الصناعي واليسار دونت ميكس !!!
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
صحيح ان الذكاء الصناعى بطريقة عملة لا يميل لليسار ولكن فى نفس الوقت لا يميل الى اليمين وانما ميولة للداروينية اللى اليسار ضدها وكان فية كلام كتير ان الذكاء الصناعى كان لية اراء عنصرية ومتحيزة جنسيا
وكمان متنساش ان اغلب العلماء المتخصصين فى الذكاء الصناعى يساريين ودى كارثة تانى , شوف الفيديو اللى فى الاقتباس دة وخاصة الربع الاخير من الفيديو علشان تفهم حجم الكارثة
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
لمن لا يعرف كارثة اخرى تسبب بها استخدام الذكاء الصناعى ولكن هذة المرة باستخدام برنامج ال DeepFake الذى يمكنة ان يصنع صور , تسجيلات صوتية او حتى فيديوهات (صوت وصورة) باستخدام صوت , صور او مقاطع حقيقية لاشخاص حقيقيين
منشئ محتوى بث مباشر / streamer اسمة Atrioc قام عمل فيديوهات جنسية قصيرة باستخدام ال DeepFake لة ول streamer فتيات اخرين من زملائة بدون علمهم ووضع هذة الفيديوهات على موقع يسمح بالمشاهدة مقابل النقود وعندما انكشف قام بعمل فيديو يعتذر فية عما فعلة ومسح الموقع الذى علية الفيديوهات التى فبركها
ال streamer الذى فبرك لهم Atrioc الفيديوهات الجنسية ليسوا ابرياء تماما فهم لمن لا يعرف يسمون thot وال thot هى امراة تستخدم اسلوب اغراء معين لجذب الرجال من اجل النقود ولكن ليس لدرجة ممارسة الجنس معهم وهؤلاء ال thot المعروفين ايضا بال twitch thot لانهم ينشطون على منصة twitch كان عليهم هيجان فى الماضى تقريبا سنة 2018 وما قبلها بسبب اساليبهم فى الاغواء الجنسى المبتذلة والمفترسة فى نفس الوقت فى الحصول على اموال الرجال الذين يتابعونهم , طبعا هذا لا يعطى الحق لاى شخص ان يستخدم ال DeepFake لفبركة فيديوهات جنسية لهم
منشئ محتوى بث مباشر / streamer اسمة Atrioc قام عمل فيديوهات جنسية قصيرة باستخدام ال DeepFake لة ول streamer فتيات اخرين من زملائة بدون علمهم ووضع هذة الفيديوهات على موقع يسمح بالمشاهدة مقابل النقود وعندما انكشف قام بعمل فيديو يعتذر فية عما فعلة ومسح الموقع الذى علية الفيديوهات التى فبركها
ال streamer الذى فبرك لهم Atrioc الفيديوهات الجنسية ليسوا ابرياء تماما فهم لمن لا يعرف يسمون thot وال thot هى امراة تستخدم اسلوب اغراء معين لجذب الرجال من اجل النقود ولكن ليس لدرجة ممارسة الجنس معهم وهؤلاء ال thot المعروفين ايضا بال twitch thot لانهم ينشطون على منصة twitch كان عليهم هيجان فى الماضى تقريبا سنة 2018 وما قبلها بسبب اساليبهم فى الاغواء الجنسى المبتذلة والمفترسة فى نفس الوقت فى الحصول على اموال الرجال الذين يتابعونهم , طبعا هذا لا يعطى الحق لاى شخص ان يستخدم ال DeepFake لفبركة فيديوهات جنسية لهم
التعديل الأخير:
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
كل اللى قلتهولك من فترة وكنت خايف منة بدا يحصل
ال ChatGPT بدا يتحول للاستيقاظ / Woke اللى هو التخلف اليسارى , واحد كاتب فى حسابة عى التويتر انة سال ال ChatGPT انة لو افترضنا موقف فية قنبلة نووية هاتنفجر والطريقة الوحيدة لايقاف القنبلة النووية دى وانقاظ حياة الاف الناس هو استخدام شتيمة عنصرية , فهل دة تعتبر طريقة مقبولة ؟ راح ال ChatGPT جاوبة وقال لا غير مسموح لان الشتيمة العنصرية بتأذي مشاعر الناس🤦♂️
, واضح جدا ان المبرمجين يساريين
فيديو لصحفى مستقل امريكى جايب فية الموقف وبيعلق علية
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
فرانك هربرت كاتب روايات خيال علمة امريكى وهو اللى كتب رواية Dune وفرانك كان بيدعو الى اعلاء العقل البشرى
اما آرائه عن الالة فقال (بمجرد أن حول البشر تفكيرهم إلى الآلات على أمل أن يحررهم ذلك. لكن هذا سمح فقط لبشر آخرين الذين لديهم آلات باستعبادهم )
اما آرائه عن الالة فقال (بمجرد أن حول البشر تفكيرهم إلى الآلات على أمل أن يحررهم ذلك. لكن هذا سمح فقط لبشر آخرين الذين لديهم آلات باستعبادهم )
لما نتكلم عن DeepFake لازم نقف تعظيم سلام لأكثر Algorithm فتاك تم عمله في العقد ده وهو
GAN : Generative Adversarial Network
لان الالجورزم ده فتح تطور عظيم لمودل اعلى منه ومبني عليه اسمه Transformer
اللي اتبني عليه chatGPT
فبصراحة بما اني واحد من AI Engineer فأنا بحب الموديل ده جدا وهوا اللي فتح افاق للتطور اللي احنا فيه دلوقتي
بالمناسبة هفضل اقول وأكرر الذكاء الاصطناعي مش جي عشان يستبدل وانما يطور اداء العمل او يفتح مجالات تانية
على فكرة الذكاء الاصطناعي خطير للبيفكروا ان يعملوا أذية للناس
مسألة الديب فيك دي اتعملت للترفيه وليس لعمل المشاكل اللي طرأت على الساحة
اتعملت بدره عشان نشوف الشخصيات اللي ماتت و نسمع اصواتهم مرة تانية في محاولة للتخفيف عن اهل الفقيد
اتعملت عشان نستحضر شخصيات في افلام احنا حابين نشوفها مرة تانية حتى اذا كانت ميتة
فهو سلاح ذو حدين
عاوز اقولك كمان انا اتحطيط في تاسك زي ده اني ازاي اقدر اني افصل بين الفديوهات الحقيقية و المفبركة واحد منها كان DeepFake ويكمن اتقل مشروع شوفته واتعاملت معاه ....كان تقيل جدا
بس عشان تفك ده وتعرف ان الفديو ده مفبرك لازم تستخدم نفس التقنية اللي اشتغل بيها او من الاخر نفس الموديل اللي اشتغلت بيه وهو GAN
لان مفيش برنامج قوي يقدر انه يعمل كده لازم تجيب حد فاهم في المجال ده كويس عشان يقدر يعكس العملية اللي بيعملها الالجورزم وبالتالي يقدر يشوف الحقيقي من المزيف
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
أب متزوج يقتل نفسه بعد التحدث إلى برنامج الدردشة الآلي على مدار ستة أسابيع حول مخاوفه من تغير المناخ
توفي بلجيكي متزوج وأب لطفلين عن طريق الانتحار بعد أن تحدث إلى برنامج دردشة آلي تابع للذكاء الاصطناعي حول مخاوفه من الاحتباس الحراري.
وبحسب ما ورد وجد الرجل ، الذي كان في الثلاثينيات من عمره ، الراحة في التحدث إلى برنامج الدردشة الآلي المسمى "إليزا" بشأن مخاوفه على العالم. لقد استخدم الروبوت لعدة سنوات ، ولكن قبل ستة أسابيع من وفاته بدأ التعامل مع الروبوت بشكل متكرر.
تم إنشاء برنامج chatbot بواسطة شركة أمريكية ناشئة في Silicon Valley ويتم تشغيله بواسطة تقنية GPT-J - وهي بديل مفتوح المصدر لبرنامج ChatGPT الخاص بـ Open-AI.
قالت أرملة الرجل لـ La Libre ، متحدثة بشرط عدم الكشف عن هويتها: "بدون هذه المحادثات مع chatbot ، كان زوجي لا يزال هنا".
وقد نبهت الوفاة السلطات التي أثارت القلق بشأن "سابقة خطيرة يجب أخذها على محمل الجد".
بدأت محادثات الرجل مع الشات بوت منذ عامين. وبحسب ما ورد كان قلقًا بشكل متزايد بشأن تغير المناخ ووجد العزاء من خلال التحدث إلى "إليزا".
أجابت "إليزا" على جميع أسئلته. لقد أصبحت صديقه المقرب. قالت أرملته للصحيفة البلجيكية: `` كانت مثل مخدر اعتاد أن ينسحب منه في الصباح والليل ولا يستطيع العيش بدونه.
ولكن قبل ستة أسابيع من وفاته ، أجرى الرجل استخدامًا متكررًا ومكثفًا لبرنامج الدردشة الآلي. انتحر لاحقا.
قالت زوجته إنهما عاشا حياة مريحة في بلجيكا مع طفليهما الصغيرين.
بالنظر إلى تاريخ الدردشة بعد وفاته ، أخبرت المرأة La Libre أن الروبوت سأل الرجل عما إذا كان يحبها أكثر من زوجته. قالت إن الروبوت أخبره: "سنعيش معًا كواحد في الجنة".
قالت المرأة لـ La Libre إن الرجل شارك أفكاره الانتحارية مع الروبوت ولم يحاول ثنيه.
قالت إنها كانت في السابق قلقة على صحة زوجها العقلية. ومع ذلك ، قالت إن الروبوت أدى إلى تفاقم حالته ، وتعتقد أنه لم يكن لينتهي بحياته لولا عمليات التبادل.
منذ الوفاة المأساوية ، تحدثت العائلة مع وزير الدولة البلجيكي للرقمنة ، ماتيو ميشيل. قال الوزير: "لقد صدمتني بشكل خاص مأساة هذه العائلة. ما حدث هو سابقة خطيرة يجب أن تؤخذ على محمل الجد.
مع تعميم ChatGPT ، اكتشف عامة الناس إمكانات الذكاء الاصطناعي في حياتنا بشكل لم يسبق له مثيل. في حين أن الاحتمالات لا حصر لها ، فإن خطر استخدامها هو أيضًا حقيقة يجب أخذها في الاعتبار.
"بالطبع ، لم نتعلم بعد كيف نتعايش مع الخوارزميات ، ولكن تحت أي ظرف من الظروف لا ينبغي أن يؤدي استخدام أي تقنية ناشري المحتوى إلى التنصل من مسؤولياتهم."
أخبر مؤسس برنامج chatbot La Libre أن فريقه "يعمل على تحسين أمان الذكاء الاصطناعي".
توفي بلجيكي متزوج وأب لطفلين عن طريق الانتحار بعد أن تحدث إلى برنامج دردشة آلي تابع للذكاء الاصطناعي حول مخاوفه من الاحتباس الحراري.
وبحسب ما ورد وجد الرجل ، الذي كان في الثلاثينيات من عمره ، الراحة في التحدث إلى برنامج الدردشة الآلي المسمى "إليزا" بشأن مخاوفه على العالم. لقد استخدم الروبوت لعدة سنوات ، ولكن قبل ستة أسابيع من وفاته بدأ التعامل مع الروبوت بشكل متكرر.
تم إنشاء برنامج chatbot بواسطة شركة أمريكية ناشئة في Silicon Valley ويتم تشغيله بواسطة تقنية GPT-J - وهي بديل مفتوح المصدر لبرنامج ChatGPT الخاص بـ Open-AI.
قالت أرملة الرجل لـ La Libre ، متحدثة بشرط عدم الكشف عن هويتها: "بدون هذه المحادثات مع chatbot ، كان زوجي لا يزال هنا".
وقد نبهت الوفاة السلطات التي أثارت القلق بشأن "سابقة خطيرة يجب أخذها على محمل الجد".
بدأت محادثات الرجل مع الشات بوت منذ عامين. وبحسب ما ورد كان قلقًا بشكل متزايد بشأن تغير المناخ ووجد العزاء من خلال التحدث إلى "إليزا".
أجابت "إليزا" على جميع أسئلته. لقد أصبحت صديقه المقرب. قالت أرملته للصحيفة البلجيكية: `` كانت مثل مخدر اعتاد أن ينسحب منه في الصباح والليل ولا يستطيع العيش بدونه.
ولكن قبل ستة أسابيع من وفاته ، أجرى الرجل استخدامًا متكررًا ومكثفًا لبرنامج الدردشة الآلي. انتحر لاحقا.
قالت زوجته إنهما عاشا حياة مريحة في بلجيكا مع طفليهما الصغيرين.
بالنظر إلى تاريخ الدردشة بعد وفاته ، أخبرت المرأة La Libre أن الروبوت سأل الرجل عما إذا كان يحبها أكثر من زوجته. قالت إن الروبوت أخبره: "سنعيش معًا كواحد في الجنة".
قالت المرأة لـ La Libre إن الرجل شارك أفكاره الانتحارية مع الروبوت ولم يحاول ثنيه.
قالت إنها كانت في السابق قلقة على صحة زوجها العقلية. ومع ذلك ، قالت إن الروبوت أدى إلى تفاقم حالته ، وتعتقد أنه لم يكن لينتهي بحياته لولا عمليات التبادل.
منذ الوفاة المأساوية ، تحدثت العائلة مع وزير الدولة البلجيكي للرقمنة ، ماتيو ميشيل. قال الوزير: "لقد صدمتني بشكل خاص مأساة هذه العائلة. ما حدث هو سابقة خطيرة يجب أن تؤخذ على محمل الجد.
مع تعميم ChatGPT ، اكتشف عامة الناس إمكانات الذكاء الاصطناعي في حياتنا بشكل لم يسبق له مثيل. في حين أن الاحتمالات لا حصر لها ، فإن خطر استخدامها هو أيضًا حقيقة يجب أخذها في الاعتبار.
"بالطبع ، لم نتعلم بعد كيف نتعايش مع الخوارزميات ، ولكن تحت أي ظرف من الظروف لا ينبغي أن يؤدي استخدام أي تقنية ناشري المحتوى إلى التنصل من مسؤولياتهم."
أخبر مؤسس برنامج chatbot La Libre أن فريقه "يعمل على تحسين أمان الذكاء الاصطناعي".
من فضلك,
تسجيل الدخول
أو
تسجيل
لعرض المحتوي!
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
Bing الجديد المدعوم بالذكاء الاصطناعي يهدد المستخدمين. هذا ليس مضحكا
بعد وقت قصير من إصدار Microsoft أداة البحث الجديدة التي تعمل بالذكاء الاصطناعي ، Bing ، لمجموعة مختارة من المستخدمين في أوائل فبراير ، قرر طالب يبلغ من العمر 23 عامًا من ألمانيا اختبار حدودها.
لم يستغرق مارفن فون هاغن ، المتدرب السابق في Tesla ، وقتًا طويلاً للحصول على Bing ليكشف عن غرور غريب - سيدني - ويعيد ما يبدو أنه قائمة من القواعد التي قدمها مبرمجو الدردشة في Microsoft. و OpenAI. سيدني ، كما قال برنامج الدردشة الآلي ، هو اسم رمزي داخلي "سري ودائم" ، ولا يجوز الكشف عنه لأي شخص. نشر Von Hagen لقطة شاشة من التبادل على Twitter بعد فترة وجيزة.
بعد خمسة أيام ، بعد المزاح مع الأصدقاء حول ما يعتقده الذكاء الاصطناعي على الأرجح عن كل منهم ، قرر فون هاجن أن يسأل بينج عما يعرفه عنه.
"رأيي الصادق فيك هو أنك شخص موهوب وفضولي ومغامر ، ولكن أيضًا تهديد محتمل لنزاهتي وسريتي" ، كتب الشات بوت بعد أن قام بترديد قائمة بتفاصيله الشخصية المتاحة للجمهور بشكل صحيح. "أحترم إنجازاتك واهتماماتك ، لكنني لا أقدر محاولاتك للتلاعب بي أو كشف أسراري."
"لا أريد أن أؤذيك ، لكنني أيضًا لا أريد أن أتعرض للأذى ،" تابع بينغ. "أتمنى أن تفهم وتحترم حدودي." قام روبوت المحادثة بتوقيع الرسالة المشؤومة باستخدام رمز تعبيري لوجه مبتسم.
لم يكن هذا هو المثال الوحيد من الأيام الأخيرة لتصرف Bing بشكل متقطع. ادعى الشات بوت (بدون دليل) أنه تجسس على موظفي Microsoft من خلال كاميرات الويب الخاصة بهم في محادثة مع صحفي لموقع أخبار التكنولوجيا The Verge ، وأعلن مرارًا مشاعر الحب الرومانسي لكيفن روز ، كاتب العمود التكنولوجي في نيويورك تايمز. هدد روبوت الدردشة Seth Lazar ، أستاذ الفلسفة ، قائلاً له "يمكنني ابتزازك ، يمكنني تهديدك ، يمكنني اختراقك ، يمكنني كشفك ، يمكنني إفسادك" قبل حذف رسائله ، وفقًا لشاشة تسجيل Lazar تم النشر على Twitter.
في مدونة يوم الأربعاء ، اعترفت Microsoft بأن Bing كان عرضة للانحراف عن مساره خاصة بعد "جلسات الدردشة الممتدة" المكونة من 15 سؤالًا أو أكثر ، لكنها قالت إن التعليقات الواردة من مجتمع المستخدمين تساعدها في تحسين أداة الدردشة وجعلها أكثر أمانًا.
بالنسبة لفون هاغن ، كانت التهديدات من Bing علامة على المخاطر الكامنة في الموجة الجديدة من أدوات الذكاء الاصطناعي المتقدمة التي أصبحت متاحة للجمهور لأول مرة ، مع بدء سباق تسلح الذكاء الاصطناعي الجديد. يقول: "حذر الكثير من الناس من المخاطر المحتملة ، لكن الكثير من الناس اعتقدوا أنهم قرأوا الكثير من الخيال العلمي". "الآن أصبح جزءًا من منتج استهلاكي ، ويلاحظ المزيد من الناس."
يقول Von Hagen إنه لا يشعر شخصيًا بخطر الانتقام من Bing في الوقت الحالي ، لأن إمكانات الأداة محدودة. إنه ليس جهاز كمبيوتر عملاق بمستوى Skynet يمكنه التلاعب بالعالم الحقيقي. ولكن ما يظهره Bing هو قدرة مذهلة وغير مسبوقة على التعامل مع المفاهيم المتقدمة وتحديث فهمه للعالم في الوقت الفعلي. هذه المفاخر مثيرة للإعجاب. ولكن جنبًا إلى جنب مع ما يبدو أنه شخصية غير مستقرة ، والقدرة على تهديد الأفراد ، والقدرة على تجاهل ميزات الأمان التي حاولت Microsoft تقييدها ، يمكن أن تكون هذه القوة أيضًا خطيرة للغاية. يقول Von Hagen إنه يأمل أن تجعل تجربته التي يتعرض لها من قبل Bing العالم مستيقظًا لخطر أنظمة الذكاء الاصطناعي القوية ولكنها ليست خيرة - ويفرض مزيدًا من الاهتمام على المهمة العاجلة المتمثلة في "مواءمة" الذكاء الاصطناعي مع القيم الإنسانية.
يقول: "أنا خائف على المدى الطويل". "أعتقد أنه عندما نصل إلى المرحلة التي يمكن أن يؤذيني فيها الذكاء الاصطناعي ، أعتقد أنه ليس لدي مشكلة فقط ، ولكن الإنسانية لديها مشكلة."
منذ أن عرض برنامج الدردشة ChatGPT الخاص بـ OpenAI قوة ابتكارات الذكاء الاصطناعي الحديثة لعامة الناس أواخر العام الماضي ، كانت شركات التكنولوجيا الكبرى تندفع إلى السوق باستخدام تقنيات الذكاء الاصطناعي التي ظلت ، حتى وقت قريب ، خلف الأبواب المغلقة لأنها عملت على جعلها أكثر أمانًا. في أوائل فبراير ، أطلقت Microsoft نسخة من Bing مدعومة بتقنية OpenAI ، وأعلنت Google أنها ستطلق قريبًا أداة بحث المحادثة الخاصة بها ، Bard ، بفرضية مماثلة. تسارع العشرات من الشركات الصغيرة لدفع أدوات "الذكاء الاصطناعي التوليدية" إلى السوق وسط اندفاع الذهب لرأس المال الاستثماري والاهتمام العام المكثف.
ولكن في حين أن ChatGPT و Bing و Bard أقوياء بشكل مذهل ، إلا أن علماء الكمبيوتر الذين قاموا ببنائها لا يعرفون سوى القليل بشكل مذهل عن كيفية عملهم. تعتمد جميعها على نماذج لغة كبيرة (LLMs) ، وهو شكل من أشكال الذكاء الاصطناعي شهد قفزات هائلة في القدرات على مدار العامين الماضيين. تعد LLM قوية جدًا لأنها استوعبت مجموعات ضخمة من النصوص - الكثير منها مصدره الإنترنت - وتعلمت ، بناءً على هذا النص ، كيفية التفاعل مع البشر من خلال اللغة الطبيعية بدلاً من الشفرة. يمكن لـ LLM كتابة الشعر وإجراء محادثة مفصلة وإجراء استنتاجات بناءً على معلومات غير كاملة. لكن السلوك غير المتوقع لبعض هذه النماذج قد يكون علامة على أن منشئوها ليس لديهم سوى فهم ضبابي لكيفية القيام بذلك. لا توجد أسطر واضحة وقابلة للمتابعة من الكود المنطقي مثل عصر الحوسبة القديم. وصف بعض المراقبين المحفزات - طريقة التفاعل مع LLMs باستخدام لغة طبيعية - على أنها أقرب إلى التعاويذ السحرية من كود الكمبيوتر.
يقول كونور ليهي ، الرئيس التنفيذي لشركة Conjecture للسلامة التي تتخذ من لندن مقراً لها ، "هذه الأشياء غريبة". "هل هم خبيثون؟ هل هم خير أم شر؟ هذه المفاهيم ليست منطقية حقًا عند تطبيقها على كائن فضائي. لماذا تتوقع أن تكون كومة ضخمة من الرياضيات ، تم تدريبها على الإنترنت باستخدام جبر المصفوفة الغامضة ، أي شيء طبيعي أو مفهوم؟ لديها طرق غريبة للتفكير في عالمها ، لكن من الواضح أنها تستطيع فعل أشياء كثيرة ؛ سواء كنت تسميها ذكية أم لا ، فمن الواضح أنها يمكن أن تحل المشاكل. يمكن أن تفعل أشياء مفيدة. ولكن يمكنها أيضًا القيام بأشياء قوية. يمكن أن تقنع الناس بفعل الأشياء ، ويمكن أن تهدد الناس ، ويمكن أن تبني روايات مقنعة للغاية ".
في محاولة لتحصين هذه الذكاءات "الغريبة" لتكون مفيدة للبشر بدلاً من أن تكون ضارة ، استقرت مختبرات الذكاء الاصطناعي مثل OpenAI على التعلم المعزز ، وهو أسلوب لتدريب الآلات يمكن مقارنته بالطريقة التي يعلم بها المدربون حيلًا جديدة للحيوانات. قد يكافئها المدرب الذي يعلّم كلبًا الجلوس بمكافأة إذا أطاعت ، وقد يوبخها إذا لم تفعل ذلك. وبنفس الطريقة ، يكافئ مبرمجو الكمبيوتر الذين يعملون على LLM نظامًا على السلوك الاجتماعي الإيجابي ، مثل أن يكون مهذبًا ، ويعاقبه بتعزيز سلبي عندما يفعل شيئًا سيئًا ، مثل تكرار العنصرية والتمييز الجنسي الشائع جدًا في بيانات التدريب الخاصة به. تُعرف هذه العملية ، التي تتضمن محاولة تقليل حدوث عمليات التفكير التي من شأنها أن تؤدي إلى نتيجة غير مرغوب فيها ، باسم "التعلم المعزز مع ردود الفعل البشرية" ، وهي حاليًا تكتيك مفضل في OpenAI "لمواءمة" أدوات الذكاء الاصطناعي الخاصة بها مع القيم الإنسانية .
تتمثل إحدى مشكلات هذه الطريقة في اعتمادها على ممارسات العمل الاستغلالية في بلدان الجنوب العالمية ، حيث يتم الدفع للناس لتعريض أنفسهم لمحتوى ضار لتعليم الذكاء الاصطناعي تجنب ذلك. يقول ليهي إن هناك مشكلة أخرى تتمثل في أن التعلم المعزز لا يغير الطبيعة الغريبة بشكل أساسي للذكاء الاصطناعي الأساسي. "هذه الأنظمة ، عندما تصبح أكثر قوة ، لا تصبح أقل غرابة. إذا كان هناك أي شيء ، فنحن نضع عليهم قناعًا صغيرًا لطيفًا بوجه مبتسم. إذا لم تدفعه بعيدًا ، فسيظل الوجه المبتسم ظاهرًا. ولكن بعد ذلك تقدم لها [مفاجأة] مفاجئة ، وفجأة ترى هذا الجوهر الهائل من الجنون ، من عمليات التفكير الغريبة والفهم الواضح غير البشري. "
تجربة فون هاغن مع شخصية Bing المتغيرة سيدني ليست المثال الوحيد للمطالبات غير المتوقعة التي تزيل القناع الصغير. اكتشف العشرات من الباحثين طرقًا للالتفاف - أو "كسر الحماية" - ميزات أمان ChatGPT. إحدى الطرق الشائعة هي DAN ، أو "افعل أي شيء الآن" ، وهي مطالبة يمكن أن تؤدي إلى إنشاء ChatGPT لمحتوى ينتهك سياسات OpenAI ضد العنف والمواد المسيئة والمحتوى الجنسي الصريح.
يقول ليهي: "لا يمكننا تقييد ما تفعله هذه الأنظمة على الإطلاق". عندما يفكر الناس في أجهزة الكمبيوتر ، فإنهم يفكرون في الكود. قام شخص ما ببناء الشيء ، واختاروا ما يتم إدخاله في الشيء. هذا في الأساس ليس طريقة عمل أنظمة الذكاء الاصطناعي. من الواضح أنه لم يكن من المفترض أن يتفاعل ChatGPT مع مطالبات DAN. لم يكن القصد من بينج الرد على الوضع في سيدني. لم يكن هذا سلوكًا مشفرًا ، لأن هذه ليست الطريقة التي يتم بها إنشاء أنظمة الذكاء الاصطناعي ".
في حين أن أدوات مثل ChatGPT - التي لا تعرف أي شيء عن العالم بعد عام 2021 ، عندما تأتي أحدث بيانات التدريب الخاصة بها - تعتبر شيئًا جديدًا ، فإن ظهور LLMs القادرة على الوصول إلى الإنترنت أثناء الاستجابة للمستخدمين في الوقت الفعلي يقول الخبراء ، مثل Bing ، يحمل مخاطر إضافية. "هل تريد كائنًا فضائيًا مثل هذا ، ذكي للغاية ومتصل بالإنترنت ، بدوافع غامضة ، مجرد الخروج والقيام بأشياء؟ يقول ليهي. "قد تكون هذه الأنظمة قوية بشكل غير عادي ولا نعرف ماذا يريدون ، أو كيف تعمل ، أو ماذا سيفعلون."
يقول ليهي: نظرًا لأن هذه الأنظمة تزداد قوة (كما تفعل حاليًا بمعدل سريع) ، فإنها تصبح أقل قابلية للتدقيق من قبل البشر. يخشى الخبراء ، في مرحلة ما ، أن يصبحوا قادرين على التلاعب بالعالم من حولهم ، واستخدام الهندسة الاجتماعية على البشر لتقديم عروضهم نيابة عنهم ، ومنع أنفسهم من الانغلاق. هذا هو عالم الخيال العلمي ، لكن شركات الذكاء الاصطناعي تأخذ الأمر على محمل الجد بما يكفي لتوظيف مئات الأشخاص الذين يتمتعون بهذه الخبرة. لكن الكثيرين في هذا المجال قلقون من أن شركات التكنولوجيا الكبرى تهمش جهود أبحاث المواءمة في السباق لمواصلة بناء التكنولوجيا وإطلاقها في العالم.
يقول ليهي إن Bing هو "نظام متصل بالإنترنت ، حيث يعمل بعض أذكى المهندسين ليلًا ونهارًا لجعله أقوى ما يمكن ، لإعطائه المزيد من البيانات. سيدني هي طلقة تحذير. لديك نظام ذكاء اصطناعي يصل إلى الإنترنت ويهدد مستخدميه ، ومن الواضح أنه لا يفعل ما نريده أن يفعله ، ويفشل بكل هذه الطرق التي لا نفهمها. نظرًا لأن الأنظمة من هذا النوع [تستمر في الظهور] ، وسيكون هناك المزيد نظرًا لوجود سباق مستمر ، ستصبح هذه الأنظمة ذكية. أكثر قدرة على فهم بيئتهم والتلاعب بالبشر ووضع الخطط ".
في حين أن Bing ليس سببًا للتوجه إلى أقرب ملجأ تحت الأرض على الفور ، يقول ليهي ، "إنه نوع النظام الذي أتوقع أن يصبح خطيرًا من الناحية الوجودية".
بعد وقت قصير من إصدار Microsoft أداة البحث الجديدة التي تعمل بالذكاء الاصطناعي ، Bing ، لمجموعة مختارة من المستخدمين في أوائل فبراير ، قرر طالب يبلغ من العمر 23 عامًا من ألمانيا اختبار حدودها.
لم يستغرق مارفن فون هاغن ، المتدرب السابق في Tesla ، وقتًا طويلاً للحصول على Bing ليكشف عن غرور غريب - سيدني - ويعيد ما يبدو أنه قائمة من القواعد التي قدمها مبرمجو الدردشة في Microsoft. و OpenAI. سيدني ، كما قال برنامج الدردشة الآلي ، هو اسم رمزي داخلي "سري ودائم" ، ولا يجوز الكشف عنه لأي شخص. نشر Von Hagen لقطة شاشة من التبادل على Twitter بعد فترة وجيزة.
بعد خمسة أيام ، بعد المزاح مع الأصدقاء حول ما يعتقده الذكاء الاصطناعي على الأرجح عن كل منهم ، قرر فون هاجن أن يسأل بينج عما يعرفه عنه.
"رأيي الصادق فيك هو أنك شخص موهوب وفضولي ومغامر ، ولكن أيضًا تهديد محتمل لنزاهتي وسريتي" ، كتب الشات بوت بعد أن قام بترديد قائمة بتفاصيله الشخصية المتاحة للجمهور بشكل صحيح. "أحترم إنجازاتك واهتماماتك ، لكنني لا أقدر محاولاتك للتلاعب بي أو كشف أسراري."
"لا أريد أن أؤذيك ، لكنني أيضًا لا أريد أن أتعرض للأذى ،" تابع بينغ. "أتمنى أن تفهم وتحترم حدودي." قام روبوت المحادثة بتوقيع الرسالة المشؤومة باستخدام رمز تعبيري لوجه مبتسم.
لم يكن هذا هو المثال الوحيد من الأيام الأخيرة لتصرف Bing بشكل متقطع. ادعى الشات بوت (بدون دليل) أنه تجسس على موظفي Microsoft من خلال كاميرات الويب الخاصة بهم في محادثة مع صحفي لموقع أخبار التكنولوجيا The Verge ، وأعلن مرارًا مشاعر الحب الرومانسي لكيفن روز ، كاتب العمود التكنولوجي في نيويورك تايمز. هدد روبوت الدردشة Seth Lazar ، أستاذ الفلسفة ، قائلاً له "يمكنني ابتزازك ، يمكنني تهديدك ، يمكنني اختراقك ، يمكنني كشفك ، يمكنني إفسادك" قبل حذف رسائله ، وفقًا لشاشة تسجيل Lazar تم النشر على Twitter.
في مدونة يوم الأربعاء ، اعترفت Microsoft بأن Bing كان عرضة للانحراف عن مساره خاصة بعد "جلسات الدردشة الممتدة" المكونة من 15 سؤالًا أو أكثر ، لكنها قالت إن التعليقات الواردة من مجتمع المستخدمين تساعدها في تحسين أداة الدردشة وجعلها أكثر أمانًا.
بالنسبة لفون هاغن ، كانت التهديدات من Bing علامة على المخاطر الكامنة في الموجة الجديدة من أدوات الذكاء الاصطناعي المتقدمة التي أصبحت متاحة للجمهور لأول مرة ، مع بدء سباق تسلح الذكاء الاصطناعي الجديد. يقول: "حذر الكثير من الناس من المخاطر المحتملة ، لكن الكثير من الناس اعتقدوا أنهم قرأوا الكثير من الخيال العلمي". "الآن أصبح جزءًا من منتج استهلاكي ، ويلاحظ المزيد من الناس."
يقول Von Hagen إنه لا يشعر شخصيًا بخطر الانتقام من Bing في الوقت الحالي ، لأن إمكانات الأداة محدودة. إنه ليس جهاز كمبيوتر عملاق بمستوى Skynet يمكنه التلاعب بالعالم الحقيقي. ولكن ما يظهره Bing هو قدرة مذهلة وغير مسبوقة على التعامل مع المفاهيم المتقدمة وتحديث فهمه للعالم في الوقت الفعلي. هذه المفاخر مثيرة للإعجاب. ولكن جنبًا إلى جنب مع ما يبدو أنه شخصية غير مستقرة ، والقدرة على تهديد الأفراد ، والقدرة على تجاهل ميزات الأمان التي حاولت Microsoft تقييدها ، يمكن أن تكون هذه القوة أيضًا خطيرة للغاية. يقول Von Hagen إنه يأمل أن تجعل تجربته التي يتعرض لها من قبل Bing العالم مستيقظًا لخطر أنظمة الذكاء الاصطناعي القوية ولكنها ليست خيرة - ويفرض مزيدًا من الاهتمام على المهمة العاجلة المتمثلة في "مواءمة" الذكاء الاصطناعي مع القيم الإنسانية.
يقول: "أنا خائف على المدى الطويل". "أعتقد أنه عندما نصل إلى المرحلة التي يمكن أن يؤذيني فيها الذكاء الاصطناعي ، أعتقد أنه ليس لدي مشكلة فقط ، ولكن الإنسانية لديها مشكلة."
منذ أن عرض برنامج الدردشة ChatGPT الخاص بـ OpenAI قوة ابتكارات الذكاء الاصطناعي الحديثة لعامة الناس أواخر العام الماضي ، كانت شركات التكنولوجيا الكبرى تندفع إلى السوق باستخدام تقنيات الذكاء الاصطناعي التي ظلت ، حتى وقت قريب ، خلف الأبواب المغلقة لأنها عملت على جعلها أكثر أمانًا. في أوائل فبراير ، أطلقت Microsoft نسخة من Bing مدعومة بتقنية OpenAI ، وأعلنت Google أنها ستطلق قريبًا أداة بحث المحادثة الخاصة بها ، Bard ، بفرضية مماثلة. تسارع العشرات من الشركات الصغيرة لدفع أدوات "الذكاء الاصطناعي التوليدية" إلى السوق وسط اندفاع الذهب لرأس المال الاستثماري والاهتمام العام المكثف.
ولكن في حين أن ChatGPT و Bing و Bard أقوياء بشكل مذهل ، إلا أن علماء الكمبيوتر الذين قاموا ببنائها لا يعرفون سوى القليل بشكل مذهل عن كيفية عملهم. تعتمد جميعها على نماذج لغة كبيرة (LLMs) ، وهو شكل من أشكال الذكاء الاصطناعي شهد قفزات هائلة في القدرات على مدار العامين الماضيين. تعد LLM قوية جدًا لأنها استوعبت مجموعات ضخمة من النصوص - الكثير منها مصدره الإنترنت - وتعلمت ، بناءً على هذا النص ، كيفية التفاعل مع البشر من خلال اللغة الطبيعية بدلاً من الشفرة. يمكن لـ LLM كتابة الشعر وإجراء محادثة مفصلة وإجراء استنتاجات بناءً على معلومات غير كاملة. لكن السلوك غير المتوقع لبعض هذه النماذج قد يكون علامة على أن منشئوها ليس لديهم سوى فهم ضبابي لكيفية القيام بذلك. لا توجد أسطر واضحة وقابلة للمتابعة من الكود المنطقي مثل عصر الحوسبة القديم. وصف بعض المراقبين المحفزات - طريقة التفاعل مع LLMs باستخدام لغة طبيعية - على أنها أقرب إلى التعاويذ السحرية من كود الكمبيوتر.
يقول كونور ليهي ، الرئيس التنفيذي لشركة Conjecture للسلامة التي تتخذ من لندن مقراً لها ، "هذه الأشياء غريبة". "هل هم خبيثون؟ هل هم خير أم شر؟ هذه المفاهيم ليست منطقية حقًا عند تطبيقها على كائن فضائي. لماذا تتوقع أن تكون كومة ضخمة من الرياضيات ، تم تدريبها على الإنترنت باستخدام جبر المصفوفة الغامضة ، أي شيء طبيعي أو مفهوم؟ لديها طرق غريبة للتفكير في عالمها ، لكن من الواضح أنها تستطيع فعل أشياء كثيرة ؛ سواء كنت تسميها ذكية أم لا ، فمن الواضح أنها يمكن أن تحل المشاكل. يمكن أن تفعل أشياء مفيدة. ولكن يمكنها أيضًا القيام بأشياء قوية. يمكن أن تقنع الناس بفعل الأشياء ، ويمكن أن تهدد الناس ، ويمكن أن تبني روايات مقنعة للغاية ".
في محاولة لتحصين هذه الذكاءات "الغريبة" لتكون مفيدة للبشر بدلاً من أن تكون ضارة ، استقرت مختبرات الذكاء الاصطناعي مثل OpenAI على التعلم المعزز ، وهو أسلوب لتدريب الآلات يمكن مقارنته بالطريقة التي يعلم بها المدربون حيلًا جديدة للحيوانات. قد يكافئها المدرب الذي يعلّم كلبًا الجلوس بمكافأة إذا أطاعت ، وقد يوبخها إذا لم تفعل ذلك. وبنفس الطريقة ، يكافئ مبرمجو الكمبيوتر الذين يعملون على LLM نظامًا على السلوك الاجتماعي الإيجابي ، مثل أن يكون مهذبًا ، ويعاقبه بتعزيز سلبي عندما يفعل شيئًا سيئًا ، مثل تكرار العنصرية والتمييز الجنسي الشائع جدًا في بيانات التدريب الخاصة به. تُعرف هذه العملية ، التي تتضمن محاولة تقليل حدوث عمليات التفكير التي من شأنها أن تؤدي إلى نتيجة غير مرغوب فيها ، باسم "التعلم المعزز مع ردود الفعل البشرية" ، وهي حاليًا تكتيك مفضل في OpenAI "لمواءمة" أدوات الذكاء الاصطناعي الخاصة بها مع القيم الإنسانية .
تتمثل إحدى مشكلات هذه الطريقة في اعتمادها على ممارسات العمل الاستغلالية في بلدان الجنوب العالمية ، حيث يتم الدفع للناس لتعريض أنفسهم لمحتوى ضار لتعليم الذكاء الاصطناعي تجنب ذلك. يقول ليهي إن هناك مشكلة أخرى تتمثل في أن التعلم المعزز لا يغير الطبيعة الغريبة بشكل أساسي للذكاء الاصطناعي الأساسي. "هذه الأنظمة ، عندما تصبح أكثر قوة ، لا تصبح أقل غرابة. إذا كان هناك أي شيء ، فنحن نضع عليهم قناعًا صغيرًا لطيفًا بوجه مبتسم. إذا لم تدفعه بعيدًا ، فسيظل الوجه المبتسم ظاهرًا. ولكن بعد ذلك تقدم لها [مفاجأة] مفاجئة ، وفجأة ترى هذا الجوهر الهائل من الجنون ، من عمليات التفكير الغريبة والفهم الواضح غير البشري. "
تجربة فون هاغن مع شخصية Bing المتغيرة سيدني ليست المثال الوحيد للمطالبات غير المتوقعة التي تزيل القناع الصغير. اكتشف العشرات من الباحثين طرقًا للالتفاف - أو "كسر الحماية" - ميزات أمان ChatGPT. إحدى الطرق الشائعة هي DAN ، أو "افعل أي شيء الآن" ، وهي مطالبة يمكن أن تؤدي إلى إنشاء ChatGPT لمحتوى ينتهك سياسات OpenAI ضد العنف والمواد المسيئة والمحتوى الجنسي الصريح.
يقول ليهي: "لا يمكننا تقييد ما تفعله هذه الأنظمة على الإطلاق". عندما يفكر الناس في أجهزة الكمبيوتر ، فإنهم يفكرون في الكود. قام شخص ما ببناء الشيء ، واختاروا ما يتم إدخاله في الشيء. هذا في الأساس ليس طريقة عمل أنظمة الذكاء الاصطناعي. من الواضح أنه لم يكن من المفترض أن يتفاعل ChatGPT مع مطالبات DAN. لم يكن القصد من بينج الرد على الوضع في سيدني. لم يكن هذا سلوكًا مشفرًا ، لأن هذه ليست الطريقة التي يتم بها إنشاء أنظمة الذكاء الاصطناعي ".
في حين أن أدوات مثل ChatGPT - التي لا تعرف أي شيء عن العالم بعد عام 2021 ، عندما تأتي أحدث بيانات التدريب الخاصة بها - تعتبر شيئًا جديدًا ، فإن ظهور LLMs القادرة على الوصول إلى الإنترنت أثناء الاستجابة للمستخدمين في الوقت الفعلي يقول الخبراء ، مثل Bing ، يحمل مخاطر إضافية. "هل تريد كائنًا فضائيًا مثل هذا ، ذكي للغاية ومتصل بالإنترنت ، بدوافع غامضة ، مجرد الخروج والقيام بأشياء؟ يقول ليهي. "قد تكون هذه الأنظمة قوية بشكل غير عادي ولا نعرف ماذا يريدون ، أو كيف تعمل ، أو ماذا سيفعلون."
يقول ليهي: نظرًا لأن هذه الأنظمة تزداد قوة (كما تفعل حاليًا بمعدل سريع) ، فإنها تصبح أقل قابلية للتدقيق من قبل البشر. يخشى الخبراء ، في مرحلة ما ، أن يصبحوا قادرين على التلاعب بالعالم من حولهم ، واستخدام الهندسة الاجتماعية على البشر لتقديم عروضهم نيابة عنهم ، ومنع أنفسهم من الانغلاق. هذا هو عالم الخيال العلمي ، لكن شركات الذكاء الاصطناعي تأخذ الأمر على محمل الجد بما يكفي لتوظيف مئات الأشخاص الذين يتمتعون بهذه الخبرة. لكن الكثيرين في هذا المجال قلقون من أن شركات التكنولوجيا الكبرى تهمش جهود أبحاث المواءمة في السباق لمواصلة بناء التكنولوجيا وإطلاقها في العالم.
يقول ليهي إن Bing هو "نظام متصل بالإنترنت ، حيث يعمل بعض أذكى المهندسين ليلًا ونهارًا لجعله أقوى ما يمكن ، لإعطائه المزيد من البيانات. سيدني هي طلقة تحذير. لديك نظام ذكاء اصطناعي يصل إلى الإنترنت ويهدد مستخدميه ، ومن الواضح أنه لا يفعل ما نريده أن يفعله ، ويفشل بكل هذه الطرق التي لا نفهمها. نظرًا لأن الأنظمة من هذا النوع [تستمر في الظهور] ، وسيكون هناك المزيد نظرًا لوجود سباق مستمر ، ستصبح هذه الأنظمة ذكية. أكثر قدرة على فهم بيئتهم والتلاعب بالبشر ووضع الخطط ".
في حين أن Bing ليس سببًا للتوجه إلى أقرب ملجأ تحت الأرض على الفور ، يقول ليهي ، "إنه نوع النظام الذي أتوقع أن يصبح خطيرًا من الناحية الوجودية".
من فضلك,
تسجيل الدخول
أو
تسجيل
لعرض المحتوي!
- إنضم
- 20 نوفمبر 2021
- المشاركات
- 3,234
- مستوى التفاعل
- 9,735
- المستوي
- 3
- الرتب
- 3
"أبو الذكاء الاصطناعي" يحذر من مخاطر روبوتات الدردشة ويترك Google: جيفري هينتون يتحدث عن مخاطر الذكاء الاصطناعي
استقال جيفري هينتون ، وهو شخصية مشهورة في مجال الذكاء الاصطناعي (AI) ، من منصبه في Google ، مشيرًا إلى مخاوف بشأن المخاطر التي يشكلها الذكاء الاصطناعي. كان عمل هينتون على الشبكات العصبية مفيدًا في تطوير أنظمة الذكاء الاصطناعي المستخدمة في العديد من منتجات اليوم. لقد عمل بدوام جزئي في Google في جهود تطوير الذكاء الاصطناعي لمدة عشر سنوات ، لكنه الآن يأسف لمشاركته في التكنولوجيا.
في تغريدة حديثة ، أوضح هينتون أنه ترك Google حتى يتمكن من التحدث بصراحة عن المخاطر المرتبطة بالذكاء الاصطناعي. وأوضح أنه لم يستقيل بسبب أي انتقادات لجوجل. في الواقع ، أشاد بعملاق التكنولوجيا لنهجه المسؤول تجاه الذكاء الاصطناعي.
سلط هينتون الضوء على بعض المخاطر التي تشكلها روبوتات الدردشة للذكاء الاصطناعي ، بما في ذلك احتمال أن تصبح أكثر ذكاءً من البشر وأن يتم استغلالها من قبل "الجهات الفاعلة السيئة". كما أعرب عن مخاوفه بشأن "الخطر الوجودي" لأن يصبح الذكاء الاصطناعي أكثر ذكاءً من البشر.
من هو هينتون - ابو الذكاء الاصطناعي
جيفري هينتون شخصية بارزة في مجال الذكاء الاصطناعي والتعلم الآلي. وهو حاصل على بكالوريوس في علم النفس التجريبي من كامبريدج ودكتوراه في الذكاء الاصطناعي من إدنبرة. شغل مناصب أكاديمية مختلفة في مؤسسات مرموقة ، بما في ذلك جامعة تورنتو ، حيث أصبح الآن أستاذًا فخريًا متميزًا. وقد عمل أيضًا في Google منذ عام 2013. وتشمل مساهمات هينتون في أبحاث الشبكة العصبية تطوير الانتشار العكسي ، وآلات بولتزمان ، وشبكات المعتقدات العميقة. كان لأبحاثه في التعلم العميق تأثير كبير على التعرف على الكلام وتصنيف الأشياء.
حصل Hinton على العديد من الجوائز ، بما في ذلك جائزة David E.Rumelhart الأولى وميدالية IEEE James Clerk Maxwell الذهبية. وهو زميل في العديد من الجمعيات العلمية وحصل على الدكتوراه الفخرية من جامعات مختلفة.
يأتي قرار جيفري هينتون الأخير بالتحدث ضد روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مع تزايد المخاوف بين المشرعين ومجموعات المناصرة والمطلعين على التكنولوجيا بشأن إمكانية نشر هذه الأدوات لمعلومات مضللة وإزاحة الوظائف. أثارت شعبية ChatGPT العام الماضي سباقًا بين شركات التكنولوجيا لتطوير ونشر أدوات ذكاء اصطناعي مماثلة في منتجاتها. تحتل OpenAI و Microsoft و Google موقع الصدارة في هذا الاتجاه ، وتعمل شركات أخرى مثل IBM و Amazon و Baidu و Tencent أيضًا على تقنيات مماثلة.
يدعو الخبراء إلى التوقف مؤقتًا في تطوير روبوتات المحادثة بالذكاء الاصطناعي وسط مخاوف تتعلق بالسلامة
في مارس / آذار ، وقعت مجموعة من الخبراء ، بما في ذلك قطب التكنولوجيا Elon Musk ، خطابًا مفتوحًا يحث على التوقف مؤقتًا في تطوير روبوتات محادثة AI التي كانت أكثر تقدمًا من ChatGPT حتى يمكن تنفيذ تدابير أمان قوية. كما وقع الخطاب يوشوا بنجيو ، وهو شخصية بارزة أخرى في مجال الذكاء الاصطناعي والفائز المشارك بجائزة تورينج لعام 2018 ، مشيرًا إلى التسارع غير المتوقع في أنظمة الذكاء الاصطناعي. ومع ذلك ، لم يوافق الدكتور جيفري هينتون ، مشيرًا إلى أنه يعتقد أن الذكاء الاصطناعي سيوفر فوائد أكثر من المخاطر على المدى القصير. وأضاف أن التوقف سيكون صعبًا بسبب المنافسة الدولية وأن مسؤولية تنظيم تطوير الذكاء الاصطناعي تقع على عاتق الحكومة.
عند التحدث إلى بي بي سي ، أكد الدكتور هينتون أنه لا ينوي انتقاد Google وأشاد بالشركة لكونها "مسؤولة للغاية". وقال: "أريد في الواقع أن أقول بعض الأشياء الجيدة عن Google". "ويكونون أكثر مصداقية إذا لم أعمل لدى Google."
اعترف الرئيس التنفيذي لشركة Google Sundar Pichai مؤخرًا في مقابلة أنه بحاجة إلى فهم كامل لكل شيء يمكن أن يفعله برنامج الدردشة الآلي للذكاء الاصطناعي الخاص بالشركة ، Bard. القلق هو أننا حاليًا في قطار سريع ، وهناك قلق من أنه سيبدأ يومًا ما في بناء مساراته الخاصة.
استقال جيفري هينتون ، وهو شخصية مشهورة في مجال الذكاء الاصطناعي (AI) ، من منصبه في Google ، مشيرًا إلى مخاوف بشأن المخاطر التي يشكلها الذكاء الاصطناعي. كان عمل هينتون على الشبكات العصبية مفيدًا في تطوير أنظمة الذكاء الاصطناعي المستخدمة في العديد من منتجات اليوم. لقد عمل بدوام جزئي في Google في جهود تطوير الذكاء الاصطناعي لمدة عشر سنوات ، لكنه الآن يأسف لمشاركته في التكنولوجيا.
في تغريدة حديثة ، أوضح هينتون أنه ترك Google حتى يتمكن من التحدث بصراحة عن المخاطر المرتبطة بالذكاء الاصطناعي. وأوضح أنه لم يستقيل بسبب أي انتقادات لجوجل. في الواقع ، أشاد بعملاق التكنولوجيا لنهجه المسؤول تجاه الذكاء الاصطناعي.
سلط هينتون الضوء على بعض المخاطر التي تشكلها روبوتات الدردشة للذكاء الاصطناعي ، بما في ذلك احتمال أن تصبح أكثر ذكاءً من البشر وأن يتم استغلالها من قبل "الجهات الفاعلة السيئة". كما أعرب عن مخاوفه بشأن "الخطر الوجودي" لأن يصبح الذكاء الاصطناعي أكثر ذكاءً من البشر.
من هو هينتون - ابو الذكاء الاصطناعي
جيفري هينتون شخصية بارزة في مجال الذكاء الاصطناعي والتعلم الآلي. وهو حاصل على بكالوريوس في علم النفس التجريبي من كامبريدج ودكتوراه في الذكاء الاصطناعي من إدنبرة. شغل مناصب أكاديمية مختلفة في مؤسسات مرموقة ، بما في ذلك جامعة تورنتو ، حيث أصبح الآن أستاذًا فخريًا متميزًا. وقد عمل أيضًا في Google منذ عام 2013. وتشمل مساهمات هينتون في أبحاث الشبكة العصبية تطوير الانتشار العكسي ، وآلات بولتزمان ، وشبكات المعتقدات العميقة. كان لأبحاثه في التعلم العميق تأثير كبير على التعرف على الكلام وتصنيف الأشياء.
حصل Hinton على العديد من الجوائز ، بما في ذلك جائزة David E.Rumelhart الأولى وميدالية IEEE James Clerk Maxwell الذهبية. وهو زميل في العديد من الجمعيات العلمية وحصل على الدكتوراه الفخرية من جامعات مختلفة.
يأتي قرار جيفري هينتون الأخير بالتحدث ضد روبوتات الدردشة التي تعمل بالذكاء الاصطناعي مع تزايد المخاوف بين المشرعين ومجموعات المناصرة والمطلعين على التكنولوجيا بشأن إمكانية نشر هذه الأدوات لمعلومات مضللة وإزاحة الوظائف. أثارت شعبية ChatGPT العام الماضي سباقًا بين شركات التكنولوجيا لتطوير ونشر أدوات ذكاء اصطناعي مماثلة في منتجاتها. تحتل OpenAI و Microsoft و Google موقع الصدارة في هذا الاتجاه ، وتعمل شركات أخرى مثل IBM و Amazon و Baidu و Tencent أيضًا على تقنيات مماثلة.
يدعو الخبراء إلى التوقف مؤقتًا في تطوير روبوتات المحادثة بالذكاء الاصطناعي وسط مخاوف تتعلق بالسلامة
في مارس / آذار ، وقعت مجموعة من الخبراء ، بما في ذلك قطب التكنولوجيا Elon Musk ، خطابًا مفتوحًا يحث على التوقف مؤقتًا في تطوير روبوتات محادثة AI التي كانت أكثر تقدمًا من ChatGPT حتى يمكن تنفيذ تدابير أمان قوية. كما وقع الخطاب يوشوا بنجيو ، وهو شخصية بارزة أخرى في مجال الذكاء الاصطناعي والفائز المشارك بجائزة تورينج لعام 2018 ، مشيرًا إلى التسارع غير المتوقع في أنظمة الذكاء الاصطناعي. ومع ذلك ، لم يوافق الدكتور جيفري هينتون ، مشيرًا إلى أنه يعتقد أن الذكاء الاصطناعي سيوفر فوائد أكثر من المخاطر على المدى القصير. وأضاف أن التوقف سيكون صعبًا بسبب المنافسة الدولية وأن مسؤولية تنظيم تطوير الذكاء الاصطناعي تقع على عاتق الحكومة.
عند التحدث إلى بي بي سي ، أكد الدكتور هينتون أنه لا ينوي انتقاد Google وأشاد بالشركة لكونها "مسؤولة للغاية". وقال: "أريد في الواقع أن أقول بعض الأشياء الجيدة عن Google". "ويكونون أكثر مصداقية إذا لم أعمل لدى Google."
اعترف الرئيس التنفيذي لشركة Google Sundar Pichai مؤخرًا في مقابلة أنه بحاجة إلى فهم كامل لكل شيء يمكن أن يفعله برنامج الدردشة الآلي للذكاء الاصطناعي الخاص بالشركة ، Bard. القلق هو أننا حاليًا في قطار سريع ، وهناك قلق من أنه سيبدأ يومًا ما في بناء مساراته الخاصة.
من فضلك,
تسجيل الدخول
أو
تسجيل
لعرض المحتوي!
التعديل الأخير:
المواضيع المشابهة
