[ad_1]

عکس تلطیف شده مردی بدون پیراهن که با یک و صفر به تصویر کشیده شده است.

در سال 1964 ، قانون حقوق مدنی استخدام کنندگان را از تبعیض جنسی یا نژادی منع کرد. اکنون نرم افزار اغلب با کمک به مدیران در بررسی رزومه کاری یا تفسیر مصاحبه های ویدیویی ، به این تصمیمات استخدام کمک می کند.

این امر برخی از کارشناسان فنی و گروه های حقوق مدنی را نگران می کند که استناد می کنند الگوریتم ها می توانند تعصب نشان داده شده توسط انسان را تولید یا افزایش دهند. در سال 2018 ، رویترز گزارش داد که آمازون در حال از بین بردن ابزاری است که رزومه را براساس الگوهای استخدام گذشته فیلتر می کند زیرا این امر تبعیض آمیز علیه زنان است.

قانون پیشنهادی در شورای شهر نیویورک به منظور به روزرسانی قوانین تبعیض در استخدام برای سن الگوریتم ها است. این لایحه شرکت ها را ملزم می کند هنگام ارزیابی با استفاده از نرم افزار ، نامزدها را در اختیار آنها قرار دهند. شرکتهایی که چنین ابزارهایی را می فروشند باید سالانه حسابرسی انجام دهند تا بررسی کنند که فناوری مرتب سازی انسانی آنها تبعیض قائل نیست.

این پیشنهاد بخشی از اقدام اخیر در همه سطوح دولت برای ایجاد محدودیت های قانونی در الگوریتم ها و نرم افزارهایی است که تصمیمات تغییر دهنده زندگی را شکل می دهند – پیشنهادی که می تواند با کنترل دموکرات ها بر کاخ سفید و هر دو مجلس کنگره گام جدیدی بردارد.

بیش از دوازده شهر ایالات متحده استفاده از تشخیص چهره را در دولت ممنوع کرده اند و ایالت نیویورک اخیراً یک مهلت قانونی برای استفاده از فناوری در مدارس را به مدت دو سال تصویب کرده است. برخی از قانون گذاران فدرال قوانینی را برای تنظیم الگوریتم های چهره و ابزارهای تصمیم گیری خودکار مورد استفاده شرکت ها ، از جمله برای استخدام ، پیشنهاد کرده اند. در ماه دسامبر ، 10 سناتور از کمیسیون فرصت های شغلی برابر خواستند که پلیس را به ابزارهای هوش مصنوعی معتاد کند و گفت که آنها می ترسند این فناوری بتواند اختلاف نژادی در استخدام را افزایش دهد و به بهبود اقتصادی COVID-19 در حاشیه نشینان آسیب برساند. جوامع همچنین سال گذشته ، یک قانون جدید در ایلینوی به اجرا درآمد که قبل از استفاده از تجزیه و تحلیل ویدئو از متقاضیان شغل ، نیاز به رضایت دارد. قانون مشابه مریلند استفاده از فناوری برای تجزیه و تحلیل افراد هنگام استخدام را محدود می کند.

قانون گذاران بیشتر در مورد تنظیم الگوریتم ها و ابزارهای جدید هوش مصنوعی صحبت می کنند تا در مورد اجرای چنین قوانینی. ماهها پس از آنكه سانفرانسیسكو شناسایی چهره را در سال 2019 ممنوع كرد ، مجبور شد این مصوبه را اصلاح كند زیرا آگاهانه آیفونهای متعلق به این شهر را غیرقانونی كرد.

پیشنهاد نیویورک ، توسط لوری کومبو ، عضو شورای دموکراتیک ، به شرکت هایی نیاز دارد که از ابزارهای تصمیم گیری شغلی خودکار برای کمک به نامزدها یا تعیین شرایط به عنوان غرامت استفاده از فناوری استفاده می کنند. ارائه دهندگان چنین نرم افزاری موظف هستند هر سال “ممیزی تعصب” محصولات خود را انجام دهند و نتایج را به مشتریان ارائه دهند.

اتاق خواب های عجیب و غریب

این طرح با مقاومت برخی متحدان غیرمعمول و همچنین سوالات حل نشده درباره نحوه کار مواجه است. اریک المن ، معاون ارشد سیاست های عمومی در انجمن صنعت مصرف کننده داده ، که نمایندگی چک اعتبار و شرکت های پس زمینه است ، می گوید این لایحه می تواند با ایجاد بار جدید بر دوش شرکت هایی که این کار را انجام می دهند ، استخدام را کمتر منصفانه کند. بازرسی از طرف کارفرمایان او استدلال می کند که چنین بررسی هایی می تواند به مدیران کمک کند تا بر عدم تمایل به استخدام افراد از مناطق خاص خاص غلبه کنند.

برخی از گروه های حقوق مدنی و کارشناسان هوش مصنوعی نیز – به دلایل مختلف – با این لایحه مخالف هستند. آلبرت فاکس کان ، بنیانگذار پروژه نظارت بر فن آوری نظارت ، نامه ای از 12 گروه از جمله NAACP و م Nowسسه AI Now دانشگاه نیویورک را ترتیب داد و به قانون پیشنهادی اعتراض کرد. کان می خواهد فن آوری های استخدام را تنظیم کند ، اما می گوید پیشنهاد نیویورک می تواند به نرم افزاری که همچنان تبعیض می کند اجازه دهد به عنوان یک ممیزی عدالت مهر شود.

کان می خواهد که هر قانونی به طور گسترده تر این فناوری را تعریف کند ، از تصمیم گیری در مورد نحوه حسابرسی فناوری خود توسط فروشندگان جلوگیری کند و به شهروندان اجازه دهد که شکایت کنند. وی گفت: “ما هیچ نوع اعمال قابل توجهی در مورد اعمال تبعیض که ما را نگران می کند ، ندیده ایم.”

حامیان

برخی دیگر نگران هستند ، اما هنوز از پیشنهاد نیویورک حمایت می کنند. جولیا استویانوویچ ، مدیر مرکز اطلاعاتی مسئولانه در دانشگاه نیویورک گفت: “امیدوارم که این لایحه به جلو پیش برود.” “امیدوارم که دوباره مورد استفاده قرار گیرد.”

استوانوویچ مانند کن نگران است که شرط حسابرسی این لایحه به خوبی تعریف نشده است. او هنوز فکر می کند که ارزش یک حرکت را دارد ، تا حدی زیرا وقتی او جلسات عمومی را برای استخدام فناوری در کتابخانه عمومی کوئینز ترتیب می داد ، بسیاری از شهروندان از دانستن اینکه ابزارهای خودکار به طور گسترده استفاده می شود متعجب شدند. استویانوویچ گفت: “دلیل اینکه من از آن حمایت می کنم این است که مردم را وادار می کند فاش کنند که بخشی از آنها توسط ماشین و انسان ارزیابی می شوند.” “این به عموم مردم کمک می کند تا وارد مکالمه شوند.”

دو شرکت نوپا در نیویورک ، که ابزار استخدام آنها با قوانین جدید تنظیم می شود ، می گویند که آنها از آنها استقبال می کنند. بنیانگذاران HiredScore ، که به دنبال شناسایی نامزدهای امیدوار کننده بر اساس رزومه و سایر منابع داده است و Pymetrics ، که ارزیابی آنلاین را براساس روانشناسی شناختی با استفاده از یادگیری ماشین ارائه می دهد ، در جلسه استماع مجازی کمیته شهر از این لایحه حمایت کردند. شورای فناوری در ماه نوامبر.

فریدا پولی ، مدیرعامل و بنیانگذار Pymetrics ، فناوری این شرکت را به عنوان سیگنال عادلانه تری نسبت به اقدامات سنتی مانند رزومه ، به متقاضیان ارائه می دهد ، که به گفته وی می تواند افراد محروم از اقشار کمتر برخوردار باشد. این شرکت اخیراً فناوری سهام خود را توسط محققان دانشگاه شمال شرقی آزمایش کرده است. وی اذعان می کند که ممکن است الزامات حسابرسی لایحه سختگیرانه تر باشد ، اما می گوید نحوه انجام این کار به روش عملی مشخص نیست و بهتر است چیزی در کتاب ها باشد. وی گفت: “این لایحه متوسط ​​است ، اما به روشی قدرتمند.”

“مانند غرب وحشی آنجا”

رابرت هولدن ، رئیس کمیته فناوری شورای شهر ، در مورد توانایی دولت شهر ، که با پول محدود می شود ، در تعیین نحوه کنترل نرم افزار اجاره نگرانی دارد. وی همچنین از نمایندگان شرکتهایی شنیده می شود که نرم افزار آنها تحت قوانین پیشنهادی قرار می گیرد ، این امر باعث مشارکت بیشتر در صنعت نسبت به معمول تجارت شورای شهر شده است. برخی به او اطمینان دادند که صنعت می تواند به خودتنظیمی متکی باشد. هولدن می گوید آنچه تاکنون آموخته به وضوح نشان می دهد که به شفافیت بیشتری نیاز است. هولدن گفت: “الان تقریباً مثل غرب وحشی است.” “ما واقعاً باید از برخی شفافیت ها اطمینان حاصل کنیم.”

هولدن می گوید این لایحه پیش از زمان بندی برای رای گیری نهایی توسط شورا ، احتمالاً با مذاكرات و بازنویسی مجدد و همچنین مخالفت احتمالی دفتر شهردار روبرو خواهد شد. در صورت تصویب ، از ژانویه 2022 لازم الاجرا می شود.

این داستان در ابتدا در سایت wired.com منتشر شد.

[ad_2]

منبع: tarjome-news.ir