آی‌تی‌من- بلومبرگ در گزارشی فاش کرده که کارکنان آمازون، برای توسعه خدمات جدید الکسا، معمولا صداهای ضبط شده کاربران این دستیار صوتی را گوش می‌کنند. برخی کارکنان از نام هنرمندانی که کاربران می‌گویند، رونوشت برمی‌دارند و این نام‌ها را به اطلاعات مرتبط در پایگاه داده شرکت متصل می‌کنند و برخی به دستورات ضبط شده گوش می‌دهند و به منظور بررسی کیفیت نرم‌افزار، آن را با آنچه سیستم می‌شنود و پاسخی که می‌دهد، مقایسه می‌کنند.

البته از نظر فنی، کاربران در هنگام آغاز استفاده از این دستیار صوتی هوشمند، اجازه تایید انسانی را می‌دهند؛ زیرا آمازون به صورت شفاف اعلام کرده که از داده‌های به دست آمده برای آموزش تشخیص صوت و سیستم‌های درک زبان طبیعی هوش مصنوعی خود استفاده می‌کند. اما این شرکت به صورت دقیق اعلام نمی‌کند که این آموزش‌ها شامل گوش کردن کارکنان این شرکت در اقصی نقاط جهان، از هند تا کاستاریکا به پیام‌های ضبط شده کاربران می‌شود.

آمازون در بیانیه‌ای که در این رابطه خطاب به بلومبرگ صادر کرده، آورده است: برای ما امنیت و محرمانگی اطلاعات شخصی مشتریان‌مان دارای اهمیت بالایی است و صرفا نمونه‌های بسیار کوچکی از صداهای ضبط شده در الکسا را به منظور بهبود تجربه کاربری بررسی می‌کنیم.

این بیانیه می‌افزاید: برای مثال این اطلاعات به ما کمک می‌کند که سیستم تشخیص گفتار و درک زبان طبیعی نرم‌افزار را بهبود ببخشیم تا الکسا با درک بهتر درخواست‌ها، سرویس بهتری ارایه بکند.

در ادامه این بیانیه آمده است: ما قواعد حفاظتی فنی و عملیاتی سختگیرانه‌ای داریم و در برخورد با استفاده سوء از سیستم خود کوتاه نمی‌آییم. کارکنان ما دسترسی مستقیم به اطلاعات به نحوی که موجب شناسایی کارکنان یا حساب کاربری‌شان شود، ندارند. همه اطلاعات نزد ما در نهایت محرمانگی است و از سیستم‌های تایید چندگانه به منظور محدود کردن دسترسی، رمزگذاری خدمات و نظارت وکنترل‌ در محیط کار برای حفظ این محرمانگی استفاده می‌کنیم.

از سویی آمازون همواره بر این نکته تایید کرده است که الکسا فقط در صورت شنیدن واژه‌های راه‌انداز مثل «الکسا» یا «اکو» (و در بعضی دستگاه‌ها با فشردن دکمه) فرمان‌های ضبط شده را به سرورها می‌فرستد. اما هر کسی که از این دستیار صوتی استفاده کرده، می‌داند که گاهی صدای محیط ممکن است با دستورهای راه‌انداز اشتباه گرفته شود و فرایند ضبط را آغاز کند. در نتیجه کارکنان آمازون، ممکن است گاهی چیزهایی را بشنوند که نباید. به این معنی که ممکن است بدون اینکه بدانید، الکسا در حال ضبط و ارسال صدا باشد و شما مواردی همچون نام خود یا اطلاعات بانکی‌تان را به زبان بیاورید؛ اطلاعاتی که کارکنان آمازون وظیفه دارند به عنوان اطلاعات حساس گزارش کنند.

گاهی هم صداهای دیگری شنیده می‌شود که دستورالعمل مشخصی درباره آنها وجود ندارد. از جمله اینکه دو نفر از کارکنان آمازون به بلومبرگ گفته‌اند که صداهای ضبط شده‌ای که شنیده‌اند به نظرشان مربوط به تجاوز جنسی بوده است. این کارکنان موضوع را گزارش کرده‌اند، اما آمازون به آنان اعلام کرده که دخالت در این امور وظیفه شرکت نیست.

اما الکسا تنها خدمت هوش مصنوعی نیست که به کارکنان انسانی متکی است و تلفیق انسان و فناوری در این بخش پدیده‌ای عمومی است؛ گاهی برای آموزش ارایه قابلیت‌های جدید به نرم افزار و گاهی برای پرکردن جای خالی توانمندی‌های سیستم، بدون اطلاع کاربر. برای مثال در سال 2017 میلادی Expensify که یک اپلیکیشن ویژه مدیریت هزینه کسب‌وکارهاست، اعتراف کرد که برای ثبت برخی از رسیدها از نیروی انسانی استفاده می‌کند، درحالی که ادعا می‌شد این کار را با فناوری اسکن هوشمند انجام می‌دهد. فیس‌بوک نیز تایید کرده که دستیار صوتی M تلفیقی از فناوری هوش مصنوعی و نیروی انسانی بوده است.

 

ITMen