研究人员构建人工智能系统来识别违反社会规范的行为

内盖夫本古里安大学的一名研究人员设计了一种人工智能系统，可以识别违反社会规范的行为。该项目是首批解决自动识别违反社会规范行为的项目之一。尽管世界范围内存在许多社会规范，但违反社会规范的行为可归结为几个一般类别。

YairNeuman教授和他的工程师YochaiCohen使用GPT-3、零样本文本分类和自动规则发现构建了该系统。该系统使用十种社会情绪的二元作为类别。

DARPA委托计算文化理解(CCU)项目创建跨文化语言理解技术，以提高国防部操作员的态势感知和交互效率。根据DARPA对该计划理由的解释，跨文化沟通不畅不仅会破坏谈判，而且还可能成为导致战争的一个因素。

他们的研究结果最近发表在《科学报告》上。

诺伊曼教授和他的工程师训练该系统识别十种社会情感：能力、礼貌、信任、纪律、关怀、宜人、成功、从众、正派和忠诚。该系统成功地根据这十个分类器之一描述了书面情况，并可以感知它是积极的还是消极的。

该系统在两个海量短文本数据集上进行了测试，并实证证明了模型的有效性。

“这是一项初步工作，但它提供了强有力的证据，证明我们的方法是正确的，并且可以扩大规模以纳入更多的社会规范，”YairNeuman教授说。

Neuman教授是BGU认知与脑科学系函子实验室的负责人。