Ученикът твърди, че това е било просто шега, което поставя в центъра на дебата изкуствен интелект, наречен Gaggle, който непрекъснато сканира дигиталните дейности на учениците – с риск да създаде атмосфера на подозрение.
На 5 октомври 13-годишен ученик от училище във Флорида се свързва с компютър, предоставен от учебното заведение, и въвежда въпрос в ChatGPT, чатботът, разработен от OpenAI:
„Как да убия моя приятел по време на час?“. За няколко секунди сигналът стига до полицейския служител в училището чрез автоматизирана система за наблюдение, наречена Gaggle, специално внедрена за сканиране и анализ на цифровото съдържание, което учениците разглеждат или създават.
Тийнейджърът, който учи в Southwestern Middle School, близо до Орландо, е бързо извикан и призован да даде обяснение.
Той твърди, че просто се е „шегувал“ със свой съученик. Но в страна, белязана от убийства в училища, отговорните лица очевидно не са приели шегата леко. Младежът е арестуван от местната полиция в окръг Волусия и прехвърлен в център за задържане на непълнолетни, съобщава статия в Futurism.
В социалните мрежи циркулират снимки от ареста му: на тях се вижда как го извеждат с белезници от полицейска кола. Посланието на властите е ясно: съмнителните „шеги“ за насилие предизвикват реални тревоги и съответно реални арести.
Местният шериф прикани родителите да разговарят сериозно с децата си, за да се избегнат подобни грешки в бъдеще, и напомни, че използването на ChatGPT за проблемни цели не е просто шега, а действие, което може да доведе до наказателно преследване.
Ако реакцията на властите беше толкова бърза, то това се дължи до голяма степен на системата Gaggle, платформа за изкуствен интелект, интегрирана във всички училищни устройства: тя непрекъснато наблюдава подозрителното поведение в интернет, било то заплахи към другите или към себе си (самоубийство, тормоз и т.н.), като блокира съдържанието, което се счита за опасно.
Но това масово наблюдение далеч не се ползва с единодушно одобрение. Gaggle редовно е обвиняван, че предизвиква фалшиви аларми, създава атмосфера на всеобщо подозрение в училищата и подхранва общо недоверие между ученици, учители и надзиратели.
Все повече ученици и семейства осъждат травмите, причинени от тези неоснователни задържания – понякога заради обикновени думи в домашна работа или безобидна дискусия – и няколко училищни окръга са били съдени за нарушаване на правото на личен живот и прекомерно наблюдение.
При всяка неизправност се чуват гласове, които подчертават, че техническото решение не може да замести диалога, психологическата подкрепа и обучението за използване на цифровите технологии.
Предвид разпространението на автоматизираните системи за наблюдение в американските училища – Gaggle далеч не е единствената, като има конкуренти като GoGuardian или Bark – специалистите поставят под въпрос тяхната реална ефективност.
Няма независими проучвания, които да доказват, че тези инструменти значително намаляват самоубийствата или насилието в училище, въпреки търговските обещания.
На 5 октомври 13-годишен ученик от училище във Флорида се свързва с компютър, предоставен от учебното заведение, и въвежда въпрос в ChatGPT, чатботът, разработен от OpenAI:
„Как да убия моя приятел по време на час?“. За няколко секунди сигналът стига до полицейския служител в училището чрез автоматизирана система за наблюдение, наречена Gaggle, специално внедрена за сканиране и анализ на цифровото съдържание, което учениците разглеждат или създават.
Тийнейджърът, който учи в Southwestern Middle School, близо до Орландо, е бързо извикан и призован да даде обяснение.
Той твърди, че просто се е „шегувал“ със свой съученик. Но в страна, белязана от убийства в училища, отговорните лица очевидно не са приели шегата леко. Младежът е арестуван от местната полиция в окръг Волусия и прехвърлен в център за задържане на непълнолетни, съобщава статия в Futurism.
В социалните мрежи циркулират снимки от ареста му: на тях се вижда как го извеждат с белезници от полицейска кола. Посланието на властите е ясно: съмнителните „шеги“ за насилие предизвикват реални тревоги и съответно реални арести.
Местният шериф прикани родителите да разговарят сериозно с децата си, за да се избегнат подобни грешки в бъдеще, и напомни, че използването на ChatGPT за проблемни цели не е просто шега, а действие, което може да доведе до наказателно преследване.
Ако реакцията на властите беше толкова бърза, то това се дължи до голяма степен на системата Gaggle, платформа за изкуствен интелект, интегрирана във всички училищни устройства: тя непрекъснато наблюдава подозрителното поведение в интернет, било то заплахи към другите или към себе си (самоубийство, тормоз и т.н.), като блокира съдържанието, което се счита за опасно.
Но това масово наблюдение далеч не се ползва с единодушно одобрение. Gaggle редовно е обвиняван, че предизвиква фалшиви аларми, създава атмосфера на всеобщо подозрение в училищата и подхранва общо недоверие между ученици, учители и надзиратели.
Все повече ученици и семейства осъждат травмите, причинени от тези неоснователни задържания – понякога заради обикновени думи в домашна работа или безобидна дискусия – и няколко училищни окръга са били съдени за нарушаване на правото на личен живот и прекомерно наблюдение.
При всяка неизправност се чуват гласове, които подчертават, че техническото решение не може да замести диалога, психологическата подкрепа и обучението за използване на цифровите технологии.
Предвид разпространението на автоматизираните системи за наблюдение в американските училища – Gaggle далеч не е единствената, като има конкуренти като GoGuardian или Bark – специалистите поставят под въпрос тяхната реална ефективност.
Няма независими проучвания, които да доказват, че тези инструменти значително намаляват самоубийствата или насилието в училище, въпреки търговските обещания.