1 ChatGPT 在建筑的应用现状和前景1.1 应用层面来看，ChatGPT 当前更适合文本工作类行业ChatGPT 是自然语言处理发展的产物。自然语言处理（Natural Language Processing, NLP）作为人工智能的重要研究方向，旨在帮助计算机理解、解释和运用人类语言。回顾发展历程来看，上世纪 50 年代，科学家已经开始进行基于规则的少量数据处理，总体是基于模板和规则的学习的阶段；上世纪 80 年代开始，进入 Machine Learning 的时代，与之前的区别是开始基于一定范围的数据进行参数分类；上世纪 90 年代开始，以CNN、RNN 等为代表的神经网络开始获得突破，开始模仿人脑进行大量数据的标记和训练。2017 年，Ashish Vaswani et.al 在论文Attention Is All You Need中提出了一种新的简单架构Transformer Architecture，这种模型基于注意力机制，不用重复和卷积，因而这些模型在质量上更优，同时更易于并行化，需要的训练时间明显更少。图1.NLP 发展历程
