• 面向小样本关系抽取的自适应胶囊网络

    分类: 计算机科学 >> 计算机科学的集成理论 提交时间: 2022-04-07 合作期刊: 《计算机应用研究》

    摘要: 小样本关系抽取任务是自然语言处理中的热点问题,旨在使用低成本的标注数据训练关系抽取模型。目前广泛使用的原型网络存在类原型表达不准确、不完整等问题。为了克服该问题,提出一种自适应胶囊网络(Adaptive Capsule Network,ACNet),ACNet借助胶囊网络的归纳能力生成类原型,并在此基础上对动态路由过程进行评估,使其面对不同样本能自适应调整网络参数。同时,在ACNet中引入一种记忆迭代机制,帮助模型快速确定类表示。在小样本关系数据集FewRel上进行实验验证得出,ACNet能够有效处理小样本关系抽取任务。

  • 小样本情况下错误先验信息对贝叶斯估计的影响:基于多层模型的研究

    分类: 心理学 >> 心理统计 提交时间: 2020-10-27

    摘要: 在心理学、教育学和组织行为学等领域的研究中,研究者常常会遇到存在嵌套结构的多层数据,如被试可能嵌套于社区、班级、诊所等。如果不考虑数据本身的嵌套结构,可能导致一些统计模型违反其独立性假设,从而对模型参数的估计产生较大的偏差。因此,研究者往往需要利用多层模型解决多层数据中非独立性观测可能带来的问题,但由于客观条件的限制,实际研究中多层数据常常出现水平1或水平2样本量偏小的情况。基于传统频率学派的极大似然估计方法(Maximum Likelihood, ML)需要依赖大样本,在小样本下容易出现参数估计及模型收敛等方面的问题。贝叶斯估计在小样本的情况下往往具有更大的优势,但与此同时,也更容易受到先验信息主观设置的影响。为了探讨贝叶斯估计中错误先验信息可能带来的负面影响,并与传统方法进行对比,本文基于多层模型,利用蒙特卡洛模拟,研究不同数据类型(因变量分别为连续正态分布数据、连续非正态数据与二分变量的数据)、样本量和组内相关系数(Intraclass Correlation Coefficient, ICC)的情况下,设有不同信息强度和偏差程度的先验信息对贝叶斯估计的影响。总体结果显示,贝叶斯估计中均值严重偏离真值的先验分布会对参数估计带来较大的负面影响,特别是在ICC较大,以及群组样本量和先验分布方差较小的情况,且因变量为非正态分布或二分变量时,错误先验信息的负面影响更为明显。本文对多层模型中错误先验信息对贝叶斯估计的影响进行研究并提出建议,希望为贝叶斯估计中先验分布的设置提供一定的理论补充及实证参考。

  • 应用于材料图像分割的Graph-UNet

    分类: 计算机科学 >> 计算机科学的集成理论 提交时间: 2022-06-06 合作期刊: 《计算机应用研究》

    摘要: 小样本材料图像分割是图像分割领域的研究难点之一。材料图像的微观结构大多数有形状各异、纹理复杂和边界模糊等特点,会导致材料图像的分割不准确。Graph-UNet被提出融合UNet和图卷积神经网络来解决小样本材料图像自动分割的挑战,它将卷积神经网络的多维特征融合和跳跃连接的思想迁移到图卷积神经网络中实现图卷积和图注意力的有效结合,并且建立了一个通用的模块实现特征图和图结构相互转换。在材料图像数据集上进行了对比和消融实验,证明Graph-UNet的分割结果优于很多先进方法,准确的识别了多种材料结构,推动了探究材料结构和性能关系的发展。