駱明凌博士談大型語言模型技術推動AI發展與未來課題
當今AI在各學科領域的廣泛應用,正掀起技術突破與實際應用的革新,而推動現階段AI發展的核心技術之一,就是大型語言模型(LLMs,Large Language Models)。計算機專家駱明凌博士自113學年度第2學期起,在本校開設「大型語言模型及其社會應用」博雅課程,帶領學生深入探索該領域的知識與應用。王宏仁院長特別邀請駱博士開講,講題為「A Light Talk on The Evolution of Research Areas in Large Language Models」,介紹大型語言模型的研究發展歷程,剖析其研究核心,並探討其面臨的挑戰及未來發展方向。
駱博士在演講中指出,大型語言模型即為機率的問題, LLM的訓練與發展仰賴多學科交互融合,涵蓋了人工智慧、統計學習、深度學習與語言學等多個領域。他透過生動的比喻及AI發展的軼聞來解釋演進的過程,例如Transformer與AI的發展、基礎函數的應用,以及2024年諾貝爾物理學獎由美國科學家霍普菲爾德(John Hopfield)及人工智慧領域先驅者辛頓(Geoffrey Everest Hinton)這對師生共同獲獎的故事等,他也特別提及,GPT(Generative Pre-trained Transformers)技術的發展過程與博雅教育的精神相似,皆需透過大量資料的積累與反覆訓練,才能實現當前流暢且精準的語言表現。駱博士深入淺出地闡釋大型語言模型技術的發展過程,探討機器學習與人工智慧的基礎發明及創新。
在技術發展趨勢方面,當前AI的發展能透過語音資料進行訓練與對話,進而賦予機器類似人類的語言學習能力,而這也引發關於「人類在未接觸文字前如何學習語言」的探討。此外,當前的研究方向聚焦於縮小語言模型、提升機器工具使用能力,以及多模型感測的應用。現今的技術仍處於「土法煉鋼」階段,儘管人工智慧能記憶大量資訊,但存儲與運算資源的消耗亦隨之增加,記憶儲存問題仍是大型語言模型面臨的最大挑戰。駱博士強調,儘管人工智慧領域曾面臨重重挑戰,但隨著硬體技術的突破與模型訓練方法的創新,未來發展趨勢將在於處理像是記憶(memory)、推理(reasoning)等人工智慧效能強化。
本場演講讓在場聽眾對大型語言模型的技術發展脈絡有更深入的了解,思考AI發展所帶來的衝擊,並重新審視自身的角色、價值與未來定位。駱博士總結道,任何技術發明皆會帶來衝擊,AI的進步將深刻影響各行各業,特別是機械化與自動化程度較高的職業。隨著技術的演進,人類的學習方式也將有所轉變,未來所有產業可能都需具備程式語言的基礎知識,以應對智慧化時代的挑戰。
【博雅教育中心提供,西灣學院編修】西灣電子報 Vol.8
駱博士在演講中指出,大型語言模型即為機率的問題, LLM的訓練與發展仰賴多學科交互融合,涵蓋了人工智慧、統計學習、深度學習與語言學等多個領域。他透過生動的比喻及AI發展的軼聞來解釋演進的過程,例如Transformer與AI的發展、基礎函數的應用,以及2024年諾貝爾物理學獎由美國科學家霍普菲爾德(John Hopfield)及人工智慧領域先驅者辛頓(Geoffrey Everest Hinton)這對師生共同獲獎的故事等,他也特別提及,GPT(Generative Pre-trained Transformers)技術的發展過程與博雅教育的精神相似,皆需透過大量資料的積累與反覆訓練,才能實現當前流暢且精準的語言表現。駱博士深入淺出地闡釋大型語言模型技術的發展過程,探討機器學習與人工智慧的基礎發明及創新。
在技術發展趨勢方面,當前AI的發展能透過語音資料進行訓練與對話,進而賦予機器類似人類的語言學習能力,而這也引發關於「人類在未接觸文字前如何學習語言」的探討。此外,當前的研究方向聚焦於縮小語言模型、提升機器工具使用能力,以及多模型感測的應用。現今的技術仍處於「土法煉鋼」階段,儘管人工智慧能記憶大量資訊,但存儲與運算資源的消耗亦隨之增加,記憶儲存問題仍是大型語言模型面臨的最大挑戰。駱博士強調,儘管人工智慧領域曾面臨重重挑戰,但隨著硬體技術的突破與模型訓練方法的創新,未來發展趨勢將在於處理像是記憶(memory)、推理(reasoning)等人工智慧效能強化。
本場演講讓在場聽眾對大型語言模型的技術發展脈絡有更深入的了解,思考AI發展所帶來的衝擊,並重新審視自身的角色、價值與未來定位。駱博士總結道,任何技術發明皆會帶來衝擊,AI的進步將深刻影響各行各業,特別是機械化與自動化程度較高的職業。隨著技術的演進,人類的學習方式也將有所轉變,未來所有產業可能都需具備程式語言的基礎知識,以應對智慧化時代的挑戰。
【博雅教育中心提供,西灣學院編修】西灣電子報 Vol.8
View: