Amazon Web Services
中小網大
章節一:基石模型選型四大維度與權衡 - 剖析模態(語言與視覺)、生成需求、模型參數規模與準確度/成本/推論時間(Inference Runtime)之間的權衡,以及開源與專有模型的優缺點。
章節二:基準測試與外部 Evaluation - 介紹如何善用外部評測榜單(如 Hugging Face Open LLM Leaderboard、Stanford HELM)並建立屬於自家業務情境的 Unit Tests 與 Prompt 資料庫。
章節三:實務手把手操作(Hands-on Walkthrough) - 透過 AWS SageMaker Studio、Boto3 SDK 調用 Falcon 40B 模型,搭配 CNN/Daily Mail 資料集計算 ROUGE 指標進行文本摘要評估。
活動詳情:https://smelearning.sme.gov.tw/news.php?node=840