第一次參加開源人年會,認識了許多不熟悉的開源服務,也學到了一些關於 Chat GPT 的新知,以此篇文章簡單記錄一下年會上聽到的幾個實用的服務與方法:

💡 Airflow-base ETL

處理數據實用的服務,解決資料透視的問題、好懂的視覺化的呈現,資料正確性的驗證等。

💡 AI/VR with AWS AL/ML

  1. 控制 token 使用: API Gateway → lambda → AWS STS
  2. Understanding Messages: lambda → s3, comprehend, AWS SNS
  3. Further analysis: AWS glue data catalog → AWS Athena → AWS S3
  4. VR: Babylon.js, Polly, Transcribe

💡 Open Taiwan

這一場比較特別,主要是分享資料透過 Chat GPT plugin / interpreter 的轉化、分析與產出的建議,以金融業及台灣公開資料為例

  1. Template-based Approach
  2. 守門員系統:系統面 → 前端呈現/規範輸入(去識別化、權限控管、使用軌跡紀錄) → 調整 IPO Format → 資料搜集 → Modaling 模型計算/更新
  3. 於商業使用上:資料來源合法性、資料處理流程如何不偏頗、資安與個資外洩的處理流程

💡 Public Cloud

GCP Cloud run 很適合做一些個人的 Side Project,在 Heroku 開始收費後是一個好選擇!他支援 Node.js 以容器化的方式快速部署一個產品。

💡 Dapr

  1. 運用在 Service Mesh 上的服務
  2. 簡化開發上與第三方工具耦合的問題,做到不同公有雲遷移的便利性

💡 Apache Kafka vs GCP pub/sub

主要都是在處理 Messaging system 的服務,都能應用在事件串流系統,有著分散式架構、能夠水平擴張等。Kafka 是來自 LinkedIn 的開源,GCP pub/sub 就是 GCP 的服務可以由 GCP 來 maintain。


💬 參考資料:

  1. 【從零開始養】透過 Side Project 增加你的能見度!以 LINE Bot 為例