AI助力网络欺凌早期检测，守护医疗健康与心理健康

arXiv:2609.09735v1 公告类型：new 摘要：医疗系统、心理健康和公共福祉正日益受到网络欺凌和有害网络互动的影响。本文提出 CareGuard——一个早期预警框架，旨在通过使用先进的自然语言处理技术检测与网络欺凌相关的内容，为医疗驱动的心理健康保护和主动式网络安全提供支持。CareGuard 将零样本语义标注与经过微调的基于 Transformer 的模型（包括 BERT、DistilBERT 和 RoBERTa）相结合，以实现对敏感网络欺凌类别的稳健且具备上下文感知能力的分类。为提升效率并减少面向医疗监测场景中的不必要计算，该框架引入了情感感知过滤机制，并结合基于余弦相似度的语义筛选，使系统能够聚焦于语义相关且具有情感显著性的内容。在基准数据集上的实验结果表明，CareGuard 有效平衡了检测准确率与计算效率，凸显了其在医疗系统、心理健康监测和网络安全应用中的规模化部署潜力。