انضم إلينا
اغلاق
أمازون وآبل وغوغل.. يتجسسون عليك صوتيا!

أمازون وآبل وغوغل.. يتجسسون عليك صوتيا!

فراس اللو

محرر تقنية
  • ض
  • ض

بنوعٍ من الحرقة والمرارة، يتجاوز مُستخدمو الأجهزة الذكية، ومُساعداتها الرقميّة، حقيقة وجود جهات خارجية تُتابع كل صغيرة وكبيرة يقومون بها. كما يتعاملون مع فكرة تنصّت الشركات والحكومات على أنها شر لا بُد منه، وهو ما أكّدته شركة أمازون بنفسها مؤخّرا بعدما اعترف موظّفوها بالاطلاع على الأوامر الصوتية لمُستخدمي "أليكسا" (Alexa)، مُساعد أمازون الرقمي(1)، لتنضم بذلك إلى كلٍّ من آبل وغوغل اللتين صارحتا الجميع بذلك في وقت سابق.

   

ذكاء مُصطنع

تنقسم مهمّة المُساعدات الرقمية إلى ثلاثة أقسام رئيسية تبدأ من سماع كلمة التفعيل؛ فلتشغيل "سيري" (Siri) في أجهزة آبل الذكية يُمكن للمستخدم نطق جملة "هاي سيري" (Hey Siri) ليبدأ المُساعد الرقمي بالاستماع. أما في غوغل، فكلمة "أوك غوغل" (Ok Google) تكفي، في وقت يُمكن فيه تفعيل مُساعد أمازون الرقمي عبر نطق "أليكسا".

  

القسم الثاني من مهمّة المُساعدات الرقمية قائم على تحويل الكلام الذي ينطقه المُستخدم إلى نص (Speech to Text)، وتلك ميزة موجودة منذ القِدم في الحواسب، وفي برامج على غرار "وورد" (Word) من مايكروسوفت. وبعد الانتهاء من هذه المهمّة، يقوم النظام بتمرير النص إلى الخوارزميات للبحث عن الإجابة المُناسبة، أو لتنفيذ طلب المُستخدم، وهذا عبر فهم قصد المُستخدم من الجملة التي نطقها.

  

   

التعقيد التقني يكمن في القسم الأخير، فالإنسان يُمكنه طلب الشيء نفسه بأكثر من طريقة، وباستخدام أكثر من كلمة، خصوصا عند الحديث عن اللهجات العاميّة المحكيّة التي تختلف من مدينة لأُخرى، وتلك تفاصيل لا تُغفلها المُساعدات الرقمية، فهي قادرة -بنسبة كبيرة- على الوصول لقصد المُستخدم، وهذا اعتمادا على تقنيات التعلّم الذاتي للآلة حيث تقوم بدراسة آلاف الحوارات والمحادثات التي يُجريها الإنسان سواء في الأفلام، أو المُكالمات، والتي تتعلّم بشكل آلي من أخطائها في الوقت ذاته، لتبدو من الخارج أنها مُؤتمتة وتتفوق على الإنسان كذلك في مستوى الذكاء، إلا أن الواقع ليس كذلك دائما.

   

يحتاج المُهندسون دائما إلى أخذ عيّنات عشوائية من قاعدة معرفة تلك الخوارزميات للتأكّد من سلامتها ومن سيرها في الطريق الصحيح، فترك كل شيء للآلة قد يقلب الدُّنيا رأسا على عقب، ولعل ظهور صورة الرئيس الأميركي دونالد ترامب عند البحث عن كلمة أحمق في مُحرك بحث غوغل خير مثال على ذلك. لكن، وعلى الرغم من وجود تدخّل بشري في نتائج بحث غوغل، لم يعترض الكثيرون مثلما هو الحال مع المُساعدات الصوتية، رُبّما لأن عمليات البحث تجري بشكل كتابي مُجرّد من المشاعر، عكس الأوامر الصوتية التي يتحدّث الإنسان فيها مع الآلة، الأمر الذي يُفسّر ردود الأفعال القاسية ضد أمازون.

   

تستّر وتلاعب

نشرت وكالة "بلومبيرغ" (Bloomberg) تقريرا صادما -متوقّعا- عن شركة أمازون وعن مُساعدها الرقمي، وهذا بعدما حصلت على شهادات من عاملين في الشركة أكّدوا وجود موظّفين مهمّتهم الوحيدة هي الاستماع إلى أوامر المُستخدمين الصوتية لتحويلها إلى نصوص مكتوبة قبل تخزينها في أنظمة "أليكسا".

   

أمازون وظّفت آلاف الأشخاص في أميركا الشمالية والجنوبية، وأوروبا، بالإضافة إلى الهند في الشرق الآسيوي، للعمل تسع ساعات يوميا على تفريغ محتويات مقاطع صوتية عبارة عن أوامر وحوارات أجراها مُستخدمو "أليكسا" في وقت سابق. تلك المقاطع عشوائية، يقوم الموظّف بتشغيلها، وتحويلها إلى نص بشكل يدوي، ومن ثم تمريرها للآلة لتقوم بمطابقة ما كتبه الإنسان مع إجابة "إليكسا"، وبهذا الشكل يُمكن للمُساعد الرقمي التعرّف على مدى دقّته، وعلى تحسين جودة فهمه(1).

     

   

الشركة في اتفاقيّة الاستخدام ذكرت أنها قد تقوم بأخذ عيّنات من أوامر المُستخدمين الصوتيّة لتحسين جودة "أليكسا". لكنها لم تذكر صراحة وجود موظّفين مهمّتهم إعادة تشغيل تلك الأوامر والاستماع لها، وهذا ما أجّج الرأي العام ضدها، ولم يغفر لها سوى توفير خيار عدم استخدام أوامر المُستخدم الصوتية داخل الإعدادات منذ فترة طويلة جدا؛ أي إنها تركت خصوصيّة المُستخدم بين يديه منذ البداية ولم تُجبره على شيء دون علمه.

 

غرف مُحادثة خاصّة يلجأ إليها الموظّفون لتبادل المقاطع الصوتية في حالة عدم وضوح بعض الكلمات فيها، أو عند وجود أمر صوتي مُضحك خفيف الظل. كما تُنشر المقاطع الصوتية التي تحتوي على حالات غريبة كالعنف أو التهديد، وهذا بنيّة الحصول على دعم نفسي من جهة، وإخطار الشركة باحتمالية وجود جرائم مُخالفة للقانون من جهة أُخرى، الأمر الذي ادّعت أمازون أنها تحترمه وأنها جهّزت من أجله بروتوكولا خاصا مع السُلطات، إلا أن أحد العاملين في أمازون أكّد أن مرؤوسيه طلبوا منه تجاهل تلك المقاطع أكثر من مرّة لأنها ليست مهمّة أمازون!

 

إذًا، يقوم موظّف أمازون بتشغيل مقاطع صوتيّة عشوائية لتحويلها إلى نصّ مكتوب لتمريره إلى نظام خاص يُطابق بين الإنسان والآلة. لكن هل فعلا تبقى البيانات عشوائية ولا يُمكن للموظّف معرفة مصدرها مثلما تدّعي أمازون؟ أم أن العاملين في الشركة شاهدوا مُمارسات خاطئة أُخرى؟

 

معرّفات عشوائية

أكّدت آبل في مدوّنتها الرسمية الخاصّة بأبحاث الذكاء الاصطناعي أنها تقوم بتخزين عيّنات عشوائية من الأوامر الصوتية التي تُطرح على "سيري" دون ربطها بالمُستخدم، أي إنها بيانات عشوائية تُستخدم لتحسين جودة المُساعد الرقمي عبر الاستماع لها من قِبل الموظّفين، أو عبر تمريرها لأنظمة أُخرى. كما صرّحت الشركة منذ البداية أنها قد تقوم بالاحتفاظ بالمقاطع لديها لفترة لا تزيد على ستة أشهر مع التأكيد من جديد أن الموظّف أو الآلة، أو حتى الشركة، لن يكون بمقدورها ربط المقطع بمُستخدم ما لأن كل البيانات مُشفّرة وعشوائية(2).

   

   

ولا يختلف وضع غوغل عن آبل أبدا، فجميع العيّنات العشوائية التي يقوم الموظّفون بالاستماع لها غير مُرتبطة بحساب ما، ولا توجد طريقة -بحسب الشركة- لربط العيّنة بالمُستخدمين(3). لتبقى أمازون وحيدة في انتهاكها لخصوصيّة المُستخدمين، فهي لا تربط المقطع باسم المُستخدم الكامل، لكنها تستخدم اسمه الأول، ورقم حسابه، بالإضافة إلى الرقم التسلسلي لمُساعده المنزلي، أي إن الموظّفين قد يكونون قادرين على معرفة هوية صاحب العيّنة بسهولة ودون أي عوائق على الرغم من وجود نظام للحماية من هذا الأمر.

 

ما يُعقّد موقف أمازون هو شهادات العاملين فيها الذين نفوا حقيقة أن المُساعد لا يقوم بتسجيل الأوامر الصوتية إلا بعد سماع كلمة التفعيل، فمُعظم المقاطع تبدأ بضجيج أو بأصوات غريبة، أو حتى بمحادثات خاصّة تتضمن بيانات سريّة كحساب البنك، وهنا يحتاج الموظّف إلى إيقاف المقطع فورا واختيار أنه يحتوي على بيانات خاصّة. وما يؤكّد أيضا أن المُساعد يقوم بتسجيل الأصوات باستمرار هو أن كل موظّف يستمع تقريبا لـ 100 مقطع يوميا قام المُساعد الرقمي بتسجيلهم دون وجود كلمة التفعيل بالأساس ضمن الحديث! لتثبت التهمة بذلك على أمازون بشهادة العاملين فيها.

 

شركة "رينغ" (Ring)، المُتخصّصة في مجال تطوير الأجراس الذكية المزوّدة بكاميرات والمملوكة من قِبل أمازون، سبق وأن وقعت تحت طائلة التسريبات نفسها(4)، حيث اعترفت أن موظّفيها يقومون أيضا بمُشاهدة مقاطع فيديو عشوائية قادمة من أجراس المُستخدمين للتعرّف على الأشخاص وعلى السيّارات للتأكّد من أن أنظمة الشركة الذكيّة قامت فعلا بالتعرّف على محتويات الفيديو بشكل صحيح، وهذا لتحسين جودتها، مثلما هو حال أمازون مع "أليكسا".

   

  

تخلّفت "سيري" على صعيد المُساعدات الرقمية الذكية خلف كلٍّ من أمازون وغوغل على الرغم من كونها أول مُساعد رقمي يصل للأجهزة الذكية، وهذا ليس بسبب قصور آبل التقني، بل لأنها ركّزت على خصوصية البيانات وعلى تشفيرها بشكل كامل. أما أمازون وغوغل، فهي شركات تخلّت عن تشفير الأوامر الصوتية وعن تجريدها من أي مُعرّفات تربطها بالمُستخدم، وهذا بنيّة التطوّر بشكل سريع، وهو ما حصل على أرض الواقع. فهل كان رهان آبل طويل الأمد وخاسرا لأن المُستخدم لا يكترث كثيرا لخصوصيّته؟ أم أن نموذج أمازون سيخسر ويتراجع مع مرور الوقت؟

تقارير متصدرة


آخر الأخبار