ابزار هوش مصنوعی مددکاران اجتماعی رونوشت های حساب «بی معنی» کودکان را می سازد | مددکاری اجتماعی

کارگران خط مقدم می گویند که ابزارهای هوش مصنوعی اشتباهات بالقوه مضری را در ثبت خدمات اجتماعی مرتکب می شوند، از هشدارهای نادرست در مورد افکار خودکشی گرفته تا “چرند” ساده.

کیر استارمر سال گذشته از چیزی که او آن را “باور نکردنی” فناوری رونویسی کار اجتماعی صرفه جویی در زمان می نامید، دفاع کرد. اما تحقیقات در 17 شورای انگلیسی و اسکاتلندی که با گاردین به اشتراک گذاشته شده است، اکنون نشان می دهد که توهمات تولید شده توسط هوش مصنوعی در حال خزیدن هستند.

در حالی که ده‌ها مقام محلی شروع به استفاده از دستگاه‌های یادداشت‌برداری با هوش مصنوعی برای سرعت بخشیدن به ضبط و جمع‌بندی برخورد با کاربران خدمات برای بزرگسالان و کودکان می‌کنند، یک مطالعه هشت ماهه توسط مؤسسه Ada Lovelace نشان داد که “برخی از ارائه نادرست بالقوه مضر تجربیات افراد در سوابق مراقبت رسمی رخ می‌دهد.”

این اندیشکده مستقل دریافت که یکی از مددکاران اجتماعی که از ابزار رونویسی هوش مصنوعی برای ایجاد خلاصه استفاده کرده است، گفت که این فناوری به اشتباه “نشان می دهد که افکار خودکشی وجود دارد” اما “در هیچ نقطه ای مشتری واقعاً … در مورد افکار خودکشی یا برنامه ریزی یا هر چیز دیگری صحبت نکرده است”.

یکی دیگر گفت که یادداشت های هوش مصنوعی می تواند به “انگشتان ماهی، مگس یا درخت” اشاره کند، در حالی که در واقع کودکی در مورد سرزنش والدین خود صحبت می کند. کارشناسان مددکاری اجتماعی می گویند که چنین مشکلاتی به ویژه نگران کننده است زیرا می تواند منجر به نادیده گرفتن الگوی رفتاری پرخطر شود.

سایر مددکاران اجتماعی نسبت به عدم دقت در مکالمات رونویسی شده با افرادی با لهجه منطقه ای ابراز نگرانی کردند. یکی توضیح داد که چگونه رونویسی های تولید شده توسط هوش مصنوعی آنها اغلب شامل “چرند” است. دیگری گفت: در اداره کمی شوخی شده است.

ده‌ها شورا از کرویدون گرفته تا ردکار و کلیولند به مددکاران اجتماعی امکان دسترسی به ابزارهای رونویسی هوش مصنوعی را داده‌اند که مکالمات موردی را ضبط و خلاصه می‌کنند. صرفه جویی در زمان بالقوه برای تالارهای شهرداری که به طور مزمن پرکار هستند جذاب است.

یک سیستم محبوب به نام Magic Notes بین 1.50 پوند تا 5 پوند برای هر ساعت رونویسی به شوراها فروخته می شود. اکثر مددکاران اجتماعی مصاحبه شده از هوش مصنوعی Magic Notes یا هوش مصنوعی همه منظوره Microsoft Copilot استفاده کردند.

این تحقیق همچنین نشان داد که رونویسی هوش مصنوعی باعث صرفه جویی قابل توجهی در زمان می شود و کارکنان اجتماعی را آزاد می کند تا بیشتر بر روابط با کاربران خدمات تمرکز کنند.

پس از مصاحبه با 39 مددکار اجتماعی ناشناس گفت: “شواهد ما نشان می دهد که این ابزارها همچنین می توانند جنبه های ارتباطی کار مراقبت و کیفیت اطلاعات ثبت شده توسط مددکاران اجتماعی را بهبود بخشند.”

اما زمانی که یک مددکار اجتماعی از ابزار هوش مصنوعی برای ترسیم مجدد اسناد مراقبتی با لحنی “انسان محور” استفاده کرد، سیستم “همه آن کلماتی را که گفته نشد” درج کرد. یکی دیگر از مددکاران اجتماعی گزارش داد که فناوری از مرز بین ارزیابی شما و ارزیابی هوش مصنوعی بودن عبور کرده است.

این گزارش در پایان می‌گوید: «نادرستی‌های تولید شده توسط هوش مصنوعی که وارد این سوابق می‌شود، می‌تواند تأثیرات گسترده‌ای داشته باشد، مانند تصمیم‌گیری اشتباه مددکار اجتماعی در مورد مراقبت از کودک، که می‌تواند منجر به آسیب به کودک و پیامدهای حرفه‌ای برای مددکار اجتماعی شود».

به گفته انجمن مددکاران اجتماعی بریتانیا (BASW)، تأثیر خطاهای هوش مصنوعی در حال حاضر در این حرفه با گزارش‌هایی از اقدامات انضباطی به دلیل عدم بررسی نتایج یادداشت‌برداری هوش مصنوعی و از دست دادن خطاهای آشکار در این حرفه احساس می‌شود. این سازمان از تنظیم‌کننده‌های مددکاری اجتماعی می‌خواهد تا دستورالعمل‌های روشنی در مورد چگونگی و زمان استفاده از ابزارهای هوش مصنوعی صادر کنند.

ایموگن پارکر، معاون مدیر در آدا لاولیس، گفت: در حالی که در میان برخی از مددکاران اجتماعی “هیجان واقعی” در مورد پتانسیل آنها وجود دارد، “این ابزارها همچنین خطرات جدیدی را برای مددکاری اجتماعی و جامعه ایجاد می کنند، از سوگیری احتمالی در خلاصه گزارش ها تا “توهمات” نادرست در رونوشت ها.” این خطرات به طور کامل قدردانی یا کاهش نمی‌یابند، و باعث می‌شود کارگران خط مقدم به تنهایی با این چالش‌ها مقابله کنند.»

مددکاران اجتماعی اغلب آموزش کمی در زمینه هوش مصنوعی دریافت می کنند – فقط یک ساعت در یک مورد. در حالی که برخی از مددکاران اجتماعی گفتند تا یک ساعت را صرف بررسی رونوشت‌های هوش مصنوعی کرده‌اند، برخی دیگر گفتند که فقط دو دقیقه وقت گذاشته‌اند. یکی از آنها گفت: «پنج دقیقه طول کشید تا آن را به معنای واقعی کلمه با عجله بررسی کنند […] و سپس آن را برش داده و در سیستم قرار دهید.’ یکی دیگر گفت که برنامه‌های مراقبت از برش و چسباندن ایجاد شده توسط هوش مصنوعی می‌تواند “وحشتناک” باشد.

برخی دیگر گفتند که برخی از همکاران برای بررسی رونوشت ها خیلی تنبل یا مشغول بودند.

اندرو ریس، رئیس استراتژی BASW برای انگلیس و ولز، گفت: “خطر در اینجا این است که مردم آنچه در مورد آنها نوشته شده را بررسی نمی کنند.” زمانی که صرف نوشتن می‌کنید به شما کمک می‌کند تا آنچه را که شنیده‌اید درک کنید. اگر رایانه این کار را برای شما انجام می‌دهد، بخش‌های مهم تمرین بازتابی را از دست می‌دهید.»

بیم که با Magic Notes کار می کند، تأکید کرد که نتایج او اولین پیش نویس است، نه یک رکورد نهایی. سب بارکر، یکی از بنیانگذاران این شرکت، گفت: «ابزارهای هوش مصنوعی به دلایل خوبی توسط مددکاران اجتماعی مورد استقبال قرار می گیرند. خدمات بسیار سنگین هستند و دسترسی به آنها دشوار است؛ نسلی از مددکاران اجتماعی در معرض خطر فرسودگی شغلی هستند و نیاز به اسناد دقیق و منطبق در حال افزایش است.

او گفت که ارزیابی سوگیری نشان داد که Magic Notes “به طور مداوم و منصفانه” عمل می کند و ویژگی های تخصصی مددکاری اجتماعی آن، از جمله بررسی خودکار خطر توهم را برجسته می کند. او گفت: «همه ابزارهای هوش مصنوعی با ابزارهای خاص، با کیفیت پایین یا عمومی که نیازهای خاص این بخش را برآورده نمی کنند، یکسان ایجاد نمی شوند.

دولت بریتانیا و مایکروسافت برای اظهار نظر به این موضوع مراجعه کرده اند.