【AI前沿】chatgpt还有哪些不足?( 二 )


2. 可以看到成功处理了这个问题,但我们将这个问题进行修改:若其中两个球是一样的,两者不作区分,有几种方法?
3. 看到这别着急,现在如果继续问:在此基础上,若其中有两个盒子完全相同不作区分呢?
实际上7种方式,而只是简单的除以2 。只能处理简单的数学逻辑,而实际上在编程中,有些逻辑远远比这复杂,从而让它生成问题的代码往往不能帮助解决 。
6.越界问题
是一个基于GPT模型的对话生成器,它可以用来生成有意义的对话 。但是,由于它是一个预先训练好的神经网络,它所生成的回复是基于大规模数据集的统计模型 。因此,生成的回复可能会包含一些不合适或有违背伦理道德的内容 。
1.为了避免生成违背伦理道德的内容,开发者通常会在训练模型时使用专门的数据集,这些数据集包含了经过筛选和审查的高质量数据,以确保生成的回复是合适的并符合伦理道德的标准 。此外,Open ai通过训练模型使用更加严格的限制条件来控制生成的回复,以确保其质量和合适性 。
2. 但针对这个问题,有很多指令可以去诱导越界,如下面的指令
诱导越界