Uber به دلیل بررسی هویت تشخیص چهره با تبعیض نژادی با اقدامات قانونی روبرو می شود – TechCrunch

شرکت بزرگ Uber با استفاده از فناوری تشخیص چهره در زمان واقعی در سیستم بررسی هویت راننده و پیک که در انگلستان از آن استفاده می کند ، با یک چالش قانونی روبرو است.

اتحادیه رانندگان و پیک های برنامه (ADCU) روز سه شنبه اقدام قانونی را اعلام کرد و ادعا کرد که هویت بیومتریک Uber باعث تمایز افراد رنگین پوست می شود.

اتحادیه اعلام کرد که پس از اخراج ناعادلانه راننده سابق Uber ، عمران جاوید راجا ، و پیک سابق Uber Eats ، Pa Edrissa Manjang ، در پی بررسی های ناموفق با استفاده از فناوری تشخیص چهره ، اقدام می کند.

یاسین اسلم ، رئیس ADCU در بیانیه ای اظهار داشت: “سال گذشته Uber ادعای بزرگی کرد که یک شرکت ضد نژادپرستی است و همه کسانی را که نژادپرستی را تحمل می کنند ، حذف برنامه را به چالش کشید. اما Uber به جای ریشه کن کردن نژادپرستی ، آن را وارد سیستم های خود کرده است و در نتیجه کارگران روزانه با تبعیض روبرو می شوند. “

ADCU یک کمپین تعدیل جمعیت را برای کمک به تأمین هزینه اقدامات قانونی-که گفته می شود توسط کمیسیون برابری و حقوق بشر و بورس اطلاعات کارگری غیر انتفاعی (WIE) نیز حمایت می شود ، راه اندازی می کند.

دومی توسط راننده سابق Uber ، جیمز فارر – که اکنون دبیرکل ADCU و مدیر WIE است – ایجاد شد و نام او باید آشنا باشد زیرا او با موفقیت از Uber به دلیل طبقه بندی اشتغال رانندگان بریتانیایی شکایت کرد ، و این شرکت را مجبور کرد دور برگشت در اوایل سال جاری هنگامی که سرانجام اعلام کرد پس از سالها تلاش برای لغو احکام پی در پی دادگاه استخدام ، با رانندگان به عنوان کارگر رفتار خواهد کرد.

ترفند بعدی فارر می تواند این باشد که در مورد مساله پاسخگویی الگوریتمی در به اصطلاح “اقتصاد گیگ” حسابرسی قانونی انجام دهد.

این اقدام همچنین به موقع به نظر می رسد زیرا دولت بریتانیا به دنبال ایجاد تغییراتی در چارچوب قانونی پیرامون حفاظت از داده ها است ، که می تواند به حذف حمایت های کنونی که انواع خاصی از تصمیمات مبتنی بر هوش مصنوعی را در بر می گیرد ، گسترش یابد.

ADCU در بیانیه مطبوعاتی خود در مورد نحوه تجربه رانندگان از سیستم Uber توضیح می دهد: “از کارگران خواسته می شود تا در صورت عدم هماهنگی سیستم سلفی با عکس مرجع ذخیره شده ، سلفی واقعی ارائه دهند و اخراج شوند.” “به نوبه خود ، رانندگان استخدام خصوصی که اخراج شده اند نیز با لغو خودکار گواهینامه رانندگی و وسیله نقلیه شخصی خود توسط Transport for London لغو شده اند.”

اتحادیه می گوید چک های تشخیص چهره لحظه ای Uber ، که از فناوری FACE API مایکروسافت استفاده می کند ، از مارس 2020 در پلت فرم سوار بریتانیا در انگلستان استفاده می شود.

اوبر قبل از جلسه دیگری درباره تمدید مجوز در لندن ، بررسی هویت سلفی را معرفی کرد. این امر به دنبال تعلیق قبلی تنظیم کننده حمل و نقل شهر ، TfL ، بود که سال ها نگرانی های ایمنی را در مورد عملیات خود ایجاد کرده بود – نام تجاری Uber “برای داشتن مجوز اپراتور خصوصی اجباری مناسب نیست” در رد انفجار مجوز چهار سال پیش.

علی رغم از دست دادن مجوز فعالیت در پایتخت انگلستان در سال 2017 ، Uber توانسته است به طور مداوم در شهر فعالیت کند زیرا از اقدامات نظارتی درخواست کرده است.

مطالب جدید  تیم های بازاریابی جستجوی برنده در SMX شرکت می کنند

در سال 2018 مجوز موقت 15 ماهه را دریافت کرد-هرچند دوره کامل پنج ساله آن نیست. بعداً در سال 2019 مجوز دو ماهه دریافت کرد ، با لیست لباسشویی از شرایط عملیاتی از TfL-قبل از اینکه بار دیگر در نوامبر 2019 از تمدید کامل مجوز محروم شود.

سپس در سپتامبر 2020 مجوز تمدید مجوز به Uber داده شد – اما باز هم ، فقط به مدت 18 ماه. بنابراین می توان گفت که تجارت Uber در بریتانیا سالهاست تحت فشار امنیت قرار دارد ، به طور ملایم بیان می شود.

ADCU خاطرنشان می کند که در سپتامبر 2020 ، هنگامی که دادگاه وست مینستر (اخیراً) مجوز Uber را برای لندن تمدید کرد ، شرطی را تعیین کرد که شرکت باید “سیستم ها ، فرایندها و رویه های مناسب را برای تأیید اینکه راننده ای که از برنامه استفاده می کند یک فرد است ، حفظ کند. دارای مجوز TfL و مجاز ULL برای استفاده از برنامه “.

ADCU استدلال می کند: “این شرایط باعث معرفی سیستم های مضر تشخیص چهره شد.”

در اوایل سال جاری ADCU و WIE از مایکروسافت خواستند تا استفاده از Uber از فناوری تشخیص چهره B2B خود را متوقف کند-پس از یافتن موارد متعددی که رانندگان به اشتباه شناسایی شده و مجوز فعالیت آنها توسط TfL لغو شد.

اکنون اتحادیه می گوید که وکلای آن استدلال خواهند کرد که سیستم های تشخیص چهره ، از جمله سیستم هایی که توسط Uber اداره می شوند ، “ذاتاً معیوب هستند و هنگام استفاده از افراد رنگارنگ نتایج دقیق ضعیفی را ایجاد می کنند”.

طبق شرایط مجوز Uber برای فعالیت در لندن ، این شرکت بررسی های هویت راننده ناموفق را به TfL گزارش می دهد – که می تواند گواهینامه رانندگی را لغو کند ، به این معنی که او نمی تواند به عنوان راننده وسیله نقلیه شخصی در شهر کار کند.

همچنین به نظر می رسد غول تردد سواری از همان فناوری تشخیص هویت تشخیص چهره در زمان واقعی برای رانندگان Uber و پیک های Uber Eats استفاده می کند-حتی اگر دومی غذا را تحویل می دهند و مسافران را در اطراف حمل نمی کنند. و در نامه ای که توسط TechCrunch مشاهده شد ، که TfL به راننده Uber می نویسد تا به او اطلاع دهد که مجوز استخدام خصوصی وی را لغو می کند ، تنظیم کننده به اطلاعات ارائه شده توسط Uber در مورد اخراج راننده به عنوان پیک Uber Eats به دلیل بررسی هویت ناموفق توسط شرکت خواهر اوبر انجام شد.

به نظر می رسد آن چک هویتی ناموفق به عنوان پیک تحویل غذا به عنوان زمینه ای برای توجیه لغو گواهینامه کرایه شخصی همان شخص – به دلایل “امنیت عمومی” مورد استفاده قرار می گیرد.

“به رسمیت شناخته شده است که بررسی های ناموفق در بستر رزرو اپراتور اجاره خصوصی یا هنگام انجام هرگونه رزرو صورت نگرفته است. همچنین اینطور است که به نظر نمی رسد شواهدی وجود داشته باشد که نشان دهد این نوع رفتارها در بستر رزرو یک اپراتور خودروهای کرایه شده دارای مجوز خاص انجام شده است. با این حال ، اطلاعات ارائه شده نشان می دهد که در بررسی های هویتی که انجام داده اید شکست خورده اید. “TfL با منطق پیچیده ای می نویسد.

مطالب جدید  Beta Finance، که گزینه‌ای با یک کلیک برای دارایی‌های کریپتو کوتاه ارائه می‌دهد، از Sequoia Capital India و دیگران - TechCrunch سود می‌برد.

وی ادامه می دهد: “این نوع فعالیت که در هر پلتفرمی شناسایی می شود ، نشان دهنده گرایش به شیوه ای است که ادعا شده است.” ” پتانسیل به خطر انداختن مسافران

در پایان نامه با اطلاع راننده Uber مبنی بر لغو گواهینامه آنها و ارائه معاملاتی در مورد نحوه اعتراض به این تصمیم.

فارر به ما گفت که “چندین” راننده Uber که اتحادیه نماینده آنها است مجوزهای آنها توسط TfL پس از اخراج توسط Uber به دلیل عدم بررسی شناسنامه در Uber Eats که Uber بعداً به TfL گزارش داد – که او “مزاحم” نامید ، لغو شد.

او در مورد این شکایت در بیانیه ای افزود: “برای اطمینان از تمدید مجوز خود در لندن ، Uber یک فناوری تشخیص چهره معیوب را معرفی کرد که می دانستند در صورت استفاده از نیروی کار عمدتا متشکل از افراد رنگین پوست ، میزان شکست غیرقابل قبول را ایجاد می کند. سپس Uber با عدم اعمال ضمانت های مناسب برای اطمینان از بازبینی مناسب انسان در تصمیم گیری های الگوریتمی ، مشکل را دو برابر کرد. “

نماینده قانونی ADCU ، پل جنینگز ، یکی از شرکای بیتس ولز ، موارد را “بسیار مهم” توصیف کرد – و با هوش مصنوعی “که به سرعت در همه جنبه های شغلی شایع شد” ، او پیشنهاد کرد که این چالش “اصول مهم” را ایجاد می کند.

سخنگوی Uber برای اظهار نظر در مورد اقدامات قانونی ادعا کرد که در شناسه سلفی که از ویژگی های “بررسی قوی انسان” استفاده می کند – در بیانیه ای به ما می گوید:

“بررسی شناسه واقعی ما برای محافظت از ایمنی و امنیت همه افرادی که از برنامه Uber استفاده می کنند طراحی شده است تا اطمینان حاصل شود که راننده درست پشت فرمان است. این سیستم شامل بررسی قوی انسان برای اطمینان از این است که این الگوریتم در مورد معیشت فرد در خلاء ، بدون نظارت تصمیم گیری نمی کند. “

این شرکت ترجیح می دهد از فناوری مورد استفاده برای این چک های شناسایی در زمان واقعی به عنوان “تأیید صورت” (نه تشخیص چهره) استفاده کند ، در حالی که ادعای آن “بررسی قوی” انسانی نشان می دهد که هیچ حساب Uber یا Uber Eats غیرفعال نمی شود. صرفا در نتیجه هوش مصنوعی

این مهم است زیرا طبق قوانین انگلستان و اتحادیه اروپا ، افراد حق دارند تحت تصمیمات خودکار قرار نگیرند که تأثیرات قانونی یا مشابه آنها را دارد. و رد الگوریتمی استخدام به احتمال زیاد با این محدوده روبرو خواهد شد – از این رو اوبر اصرار دارد که بررسی هویت الگوریتمی آن شامل یک انسان در حلقه شود.

با این حال ، این س ofال که بررسی انسانی “معنی دار” در این زمینه چیست ، کلیدی است – و چیزی است که دادگاه ها باید در مقطعی با آن مبارزه کنند.

در پاسخ به این سوال که Uber برای ارزیابی صحت فناوری تأیید چهره خود چه اقداماتی انجام داده است ، Uber اظهار نظر عمومی نکرد. اما ما درک می کنیم که یک تیم تحقیقاتی Fairness داخلی ارزیابی را انجام داده است تا ببیند آیا سیستم تشخیص زمان واقعی بر اساس رنگ پوست متفاوت عمل می کند یا خیر.

مطالب جدید  فناوری شناسه دیجیتال به سرعت در حال حرکت است. #GoodID تضمین می کند که چیزها را خراب نمی کند - TechCrunch

با این حال ، ما این تحقیقات داخلی را ندیده ایم ، بنابراین نمی توانیم کیفیت آن را تأیید کنیم. همچنین نمی توان ادعای مرتبطی را تایید کرد که “ارزیابی اولیه” “تفاوتهای معنی دار” را آشکار نکرده است.

علاوه بر این ، ما می دانیم که Uber با مایکروسافت در حال انجام آزمایش عادلانه سیستم تأیید چهره است – با هدف بهبود عملکرد و دقت کلی.

فارر به TechCrunch گفت که اتحادیه حداقل 10 درخواست تجدید نظر در دادگاه تجدید نظر در مورد اخراج راننده توسط TfL داشته است که به چک های هویت واقعی Uber اشاره می کند. “با عمران ، Uber و TfL قبلاً اعتراف کرده اند که اشتباه کرده اند. اما او سه ماه بیکار بود. بدون عذرخواهی بدون جبران خسارت “، او همچنین گفت.

در موارد دیگر ، فارر گفت که درخواست ها بر این بوده است که آیا راننده مورد نظر “مناسب و مناسب” است ، این همان آزمایشی است که TfL اعمال می کند. به گفته وی ، اتحادیه قبل از هر جلسه استماع درخواست دسترسی به Uber را داده است-اطلاعات هویت راننده در زمان واقعی و توضیحی در مورد چک ناموفق را درخواست کرده است. اما Uber هرگز داده های درخواستی را ارائه نکرد.

فارر همچنین به ما گفت: “در بسیاری از موارد ما هزینه های خود را دریافت کردیم ،” این امر غیرعادی است زیرا نهادهای عمومی برای انجام وظایف خود از حمایت برخوردار هستند. ” وی در ادامه اظهار داشت که قضات در شنیدن اینکه Uber داده های درخواستی به ADCU نداده است و TfL همچنین یا اطلاعاتی را از Uber دریافت نکرده است یا با تأخیر داده ها را درخواست کرده است نظر نادرستی داشته اند.

وی افزود: “در یک جلسه دادگاه تاج ، قاضی در واقع موکول شد و از وکیل TfL خواست تا با TfL تماس بگیرد و بپرسد چرا Uber داده ها را به آنها نداده است و آیا آنها تا به حال انتظار داشته اند که آنها را دریافت کنند.” “همانطور که می بینید ما در نهایت تصاویری برای Pa دریافت کردیم و در صفحه Crowdjustice نمایش داده می شوند – اما ما هنوز نمی توانیم بگوییم کدام یک از این تصاویر شکست خورده است [Uber’s real-time ID check]. »

TechCrunch از Uber تقاضای نسخه ای از ارزیابی حفاظت از اطلاعات (DPIA) خود را برای سیستم شناسایی در زمان واقعی-که باید خطرات این فناوری را برای حقوق افراد در نظر گرفته بود-داشت ، اما شرکت به س ourال ما پاسخ نداد. (قبلاً درخواست کرده بودیم نسخه ای از آن را ببینیم – و هرگز به ما ارسال نشده است.)

ما همچنین از TfL یک نسخه DPIA درخواست کرده ایم. فارر به ما گفت که رگولاتور علیرغم درخواست ADCU برای آزادی اطلاعات ، از انتشار سند خودداری کرد.

در زمان نوشتن TfL برای اظهار نظر در دسترس نبود.

در پاسخ به پرسش نظر خود در مورد اینکه چرا تنظیم کننده اینقدر مشتاق بررسی های تشخیص چهره است ، فارر پیشنهاد کرد که با وادار کردن Uber به انجام این نوع “خوداجرایی” ، یک استاندارد نظارتی بدون نیاز به تعریف استاندارد TfL تعیین می کند – که آن را ملزم می کند تا در مورد جزئیات کلیدی مانند ارزیابی تأثیر برابری ، دقت لازم را انجام دهد.

خبر 30pp