Искусственный интеллект в школах США будет следить за тем, что ученики делают на компьютерах

Он также будет анализировать их посты в соцсетях и частную переписку.

Более 50 млн американских учеников выпускных классов на днях вернулись в школы США. Многие из них столкнутся с неприятным сюрпризом — за каждым словом, которое они напечатают в компьютере, будет следить искусственный интеллект.

Согласно Закона о защите детей в интернете (Children’s Internet Protection Act — CIPA), любая школа США, которая получает федеральное финансирование, должна соблюдать политику безопасности в Сети. Некоторые учебные заведения просто блокируют неприемлемые веб-сайты. Но другие прибегают к более кардинальным мерам, обращаясь к таким компаниям как Gaggle, Securly и GoGuardian. Данные компании разрабатывают ПО, которое находит на компьютере слова или фразы, указывающие, например, на насилие.

Во времена массовых школьных расстрелов и самоубийств студентов эти системы могут сыграть важную роль в предотвращении такой беды. Но в этом контексте возникают и этические проблемы, потому что ученики теряют право на приватность переписки.

«В школах металлоискатели и камеры видеонаблюдения. Теперь еще и содержание электронных сообщений будет известно третьим лицам», — отмечает Жирард Келли, специалист по анализу конфиденциальности в Common Sense Media, некоммерческой организации, которая учит детей безопасности в интернете.

Как работает такой контроль, можно увидеть на примере программного обеспечения Gaggle. Этот фильтр имеет доступ к Google Docs и Gmail. Если алгоритм находит слово или фразу, где упоминаются наркотики или есть признаки кибербуллинга, то об этом сразу узнает человек-контроллер.

А вот, например, Securly не ограничивается одним лишь школьным компьютером, анализируя твиты ученика, посты, статусы и тому подобное в социальных сетях. С помощью ИИ система обрабатывает тысячи таких сообщений.

Аналитики соглашаются с тем, что через высокий уровень школьного насилия, учащиеся нуждаются в защите. Но защита личной информации детей также является вопросом их безопасности. Поэтому нужен баланс и четкие границы.

Источник