盖世汽车讯 当前大多数人工智能(AI)系统通过机器学习和深度学习来学习完成任务。机器学习是一种计算方法，使模型能够发现数据中可用于预测的模式。而深度学习则是机器学习的一个子集，利用多层神经网络，能够自主地从非结构化数据中提取特征并学习复杂的模式，有时甚至无需人工监督。
元股证券:ygzq.hk许多采用这些方法训练的AI系统还会为其预测结果生成置信度评分。这些评分本质上是对特定预测准确概率的估计。以往的研究表明，在多数情况下，AI系统过于自信，会给错误的答案赋予过高的置信度评分，甚至将不准确的信息当作事实呈现。这限制了其可靠性，尤其是在高风险应用中，因为错误的预测可能会造成严重的后果。
据外媒报道，韩国科学技术院(Korea Advanced Institute of Science and Technology，KAIST)的研究人员提出了一种受大脑启发的新型训练方法，有望生成更贴近实际的AI置信度估计。该策略使用随机噪声(即不包含任何有意义模式的数据)和任意输出对人工神经网络进行短期训练，使其在学习特定任务之前，能够学会生成更贴近实际的置信度估计。相关研究发表于期刊《Nature Machine Intelligence》。
图片来源：期刊《Nature Machine Intelligence》
炒股杠杆公司研究人员Jeonghwan Cheon和Se-Bum Paik在论文中写道：“不确定性校准，即预测置信度与准确度的匹配，对于机器学习系统在实际应用中的可靠部署至关重要。然而，目前的模型往往无法实现这一目标，产生的响应要么过于自信，要么不准确，甚至可能是捏造的。研究表明港股配资交易门户，深度学习中广泛采用的初始化方法——长期以来被视为标准做法——实际上是过度自信的主要来源。”
炒股多空网提示：本文来自互联网，不代表本网站观点。