آیا دستیار شخصی دیجیتال مسئولیت اخلاقی دارد؟

امروزه، هوش مصنوعی در زندگی بیشتر انسان‌ها نقش مهمی ایفا می‌کند و راحتی را برای آن‌ها به‌ارمغان می‌آورد. وجود هوش مصنوعی رباتیک کوچکی که می‌تواند آب‌و‌هوا را پیش‌بینی کند؛ موزیک درخواستی را پخش کند؛ با فرمان صوتی کاربر چراغ‌قوه‌ی موبایل را خاموش و روشن کند؛ و حتی در اوقات تنهایی با انسان به گفت‌و‌گو بنشیند. اسپیکر هوشمند گوگل‌هوم و اکو آمازون نمونه‌هایی از این دستیارهای صوتی هوشمند هستند.

ممکن است کاربرانی که تنها زندگی می‌کنند، این دستیارهای صوتی هوشمند را به‌عنوان مونس و فرد معتمد خود بدانند و حتی انتظار داشته باشند هوش مصنوعی در مواقعی به‌کمک آن‌ها بیاید. برای نمونه، اگر مورد مشکوکی مشاهده کرد، با پلیس تماس بگیرد. با تمام این‌ها، آیا می‌توانیم به هوش مصنوعی اعتماد کنیم تا تماس‌های مناسب را به‌نفع انسان انجام دهد؟ مزایا و معایب اعتماد به هوش مصنوعی و ورود آن به حریم شخصی چیست؟

در وهله‌ی نخست، کمتر کسی حاضر است کنترل حریم خصوصی خود را به دستیار دیجیتال هوشمند واگذار کند و هیچ کاربری حاضر نیست تصمیم‌گیری هوش مصنوعی به‌جای خودش را شاهد باشد. هرچند ممکن است انسان‌ها نیز در تصمیم‌گیری دچار مشکل شوند یا گاهی اتخاذ تصمیمی برای انسان نیز دشوار باشد، هرگز حاضر نیستند به هوش مصنوعی اجازه‌ی ورود به حریم خصوصی خود را دهند. بی‌شک حریم خصوصی بیشتر از همه‌چیز برای کاربران اهمیت دارد.

حقیقت این است که وقتی فردی درمعرض خطر یا مشکلی است، نمی‌تواند از دستیار صوتی گوگل یا الکسا درخواست کمک کند‌؛ اما با شخصی‌شدن بیشتر تکنولوژی، وجود این نوع بحث‌ها ضروری‌تر می‌شود. قانون‌گذاران و شرکت‌های مسئول تولید چنین فناوری‌هایی بهتر است درباره‌ی مسائلی چون اخلاقی‌بودن این محصولات و امنیت و حریم خصوصی نیز قوانینی تدوین کنند. آیا گوگل و آمازون مقام‌ها را از شک و تردید احتمالی خود در تکنولوژی‌های دستیار شخصی دیجیتال خود مطلع می‌کنند یا اصلا حفظ حریم خصوصی مهم است؟ کاربران بهتر است درباره‌ی میزان دخالت هر نوع لوازم الکترونیکی هوشمند در زندگی آگاهی داشته باشند.

درحال‌حاضر، کاربران با دستیارهای هوشمند صوتی و فناوری هوش مصنوعی مشکلی ندارند و باید امیدوار بود که هرگز مشکلی پیش نیاید؛ اما به‌راستی گوگل‌هوم اجازه دارد با پلیس تماس بگیرد و جنایت یا سوءاستفاده شدن از چیزی یا کسی را گزارش دهد؟ این بحث بسیار گسترده است؛ چراکه وقتی درباره‌ی ارزش‌ها حرف می‌زنیم، مسائل بسیار پیچیده و فراوان دیگری مانند خشونت نیز مطرح می‌شود. بااین‌حال، شاید مسئله مهم‌تر این باشد که وقتی هوش مصنوعی بتواند اطلاعاتی را درباره فردی گزارش کند؛ یعنی از هویت فرد آگاه است.