大模型就是个概率系统,可能需要另一套,或者多套概率系统,通过协作来控制幻觉的概率,最终达到可接受的目标。
就像服务可靠性最终是99.999999%,不可能达到100%可靠。
大模型试图一次性得到全部正确的参数,有些过于理想。
人脑其实也是误差挺高的系统。闭上眼睛走路或者开车,很快就会走偏。人靠的是不断的纠偏。
随时随地的优化某个领域的参数,AI可能也需要一个反馈系统。
AI和以前的计算机程序相比,就是因为AI可以自己处理你没给它设定的情况,会犯错是理所当然的。但是可以通过不断迭代尽可能解决。我们人也一样会犯很多错误。
网友评论