一、生成式人工智能
人工智能、机器学习、深度学习与AIGC的关系
- 人工智能代表着广阔的领域创意生产系统——这些系统可以执行任务,表现出与人类相当的智力和能力,并能与生态系统交互。
- 机器学习是人工智能领域一个专注于创建算法和模型的分支,这些模型和算法使得上述系统能够跟随着训练学习实现自我改进。机器学习模型从现有数据中学习,并会随着数据的增长自动更新参数。
- 深度学习是机器学习的一个分支。深度机器学习模型指的是神经网络(Neural Network),尤其适用于计算机视觉(Computer Vision,CV)和自然语言处理(Natural Language Processing,NLP)等领域。本书提到的机器学习模型和深度学习模型一般是指判别式模型可根据数据进行预测或推理。
- 生成式人工智能是深度学习的一个子分支,不使用深度神经网络来聚类。分类或对现有的数据进行预测,而使用强大的神经网络模型生成图像文字表述。音乐和视频等新的内容。
AIGC主要应用领域:文本生成、图像生成、音乐生成、视频生成。
OpenAi的生成式预训练Transformer(Generative Pre-trained Transformer,GPT)
GPT-1:生成式模型架构。
GPT-2:基于一个称作WebText的语料库训练,参数量是GPT-1的10倍。
GPT-3:一组能够理解和生成自然语言的模型,橡胶GPT-2基准结果进行了很大的提升。
ChatGPT:基于采用了面向对话的修订版GPT-3的语言模型,优化过程设计强化学习和人类反馈(Reinforcement Learning with Human Feedback,RLHF)。
|