基于IPEX-LLM的本地輕量化課程教學(xué)智能輔助系統(tǒng)
華東師范大學(xué)學(xué)報(自然科學(xué)版)
頁數(shù)： 11 2024-09-24
摘要： 提出并實現(xiàn)了一個本地輕量化課程教學(xué)智能輔助系統(tǒng).該系統(tǒng)利用IPEX-LLM (Intel PyTorch extention for large language model)加速庫,在計算資源受限的設(shè)備上高效部署并運行經(jīng)過QLoRA(quantum-logic optimized resource allocation)框架微調(diào)的大語言模型,并結(jié)合增強檢索技術(shù),實現(xiàn)了智能問答... （共11頁）
APP 