Миллионы студентов каждый день обращаются к чат-ботам с искусственным интеллектом за помощью в учебе, эмоциональной поддержкой и личным советом, часто не подозревая, где заканчиваются их разговоры и другая личная информация. То, как используются эти данные — и роль школ в их защите — вызывает растущую озабоченность преподавателей, родителей и детей, поскольку искусственный интеллект становится повсеместной частью школьного дня и встроен во многие классные инструменты, которые учащиеся должны использовать. В начале учебного года два крупнейших школьных округа страны, Нью-Йорк и Лос-Анджелес, объявили, что приостанавливают использование учащимися ИИ на один год, поскольку они изучают, как лучше всего внедрить эту технологию в образование. В ответ на растущую реакцию на ИИ и экранное время Microsoft объявила на прошлой неделе, что согласилась принять защитные меры и стандарты конфиденциальности для своего ИИ в школах, как это было согласовано с Американской федерацией учителей, вторым по величине профсоюзом учителей страны. Положения о безопасности в соглашении имеют смысл, но стандарты будут эффективными только в том случае, если все компании, занимающиеся искусственным интеллектом, особенно технологические гиганты, подпишут его, сказал Джош Голин, исполнительный директор некоммерческой организации по онлайн-безопасности Fairplay. По его словам, соглашение обходит вопрос о том, подходят ли продукты искусственного интеллекта в классах и в каком возрасте их следует внедрять. «Я беспокоюсь, что подобная громкая структура будет неправильно понята, и школы подумают: «Если они хорошо справляются с конфиденциальностью и безопасностью данных, то это означает, что нам следует использовать этот инструмент», — сказал Голин. В AFT заявили, что соглашение, которое имеет юридическую силу и требует проверки соблюдения сторонними организациями, может установить отраслевой стандарт. Две другие ведущие компании в области искусственного интеллекта, OpenAI и Anthropic, заявили, что также обсуждают с AFT соглашения о безопасности и конфиденциальности. Но компания Google, доминирующий поставщик образовательных технологий для школ Америки, не сообщила, планирует ли она предложить аналогичную защиту.
Источник: SecurityWeek — https://www.securityweek.com/microsoft-commits-to-sweeping-ai-privacy-rules-for-students-will-other-tech-giants-follow/
Комментарии