老闆問「我們能不能用 AI」的時候,IT 真正要回答的是另外兩個問題:資料放到哪裡去,還有誰可以用。這兩件事沒先講清楚,工具買了也只是多一個沒人管的帳號。
先分清雲端跟地端
雲端服務把資料送到服務商的伺服器處理,速度快,不用買設備,缺點是資料離開公司。地端是用公司自己的主機跑模型,資料不出門,但要有機器、要有人維護。常見的做法是兩邊並用:對外文案、程式碼查詢走雲端,客戶名單與財務資料留在內部。
哪些資料不能貼進去
客戶名單、員工個資、還沒公開的財報、病歷、合約,這幾類不要貼進公開的 AI 工具。要問服務商的問題是:資料會不會被拿去訓練模型、資料存在哪個國家、退訂之後多久刪除。企業版方案通常可以關閉訓練選項,合約也寫得比較清楚;個人免費帳號沒有這層保障。
網路要先撐得住
雲端 AI 走的是對外頻寬,而且吃上傳。傳一份二十頁的 PDF 給 AI 讀,佔用的就是上傳頻寬;公司如果用的是下載快、上傳慢的光世代,幾個人同時用就會覺得卡。另外要確認對外連線有留紀錄,日後要追「資料從哪台電腦送出去」才有依據。
帳號用公司的,不要用私人的
員工用私人帳號訂閱、把公司文件丟上去,人一走資料帶走,帳單也沒人管。要用就開公司帳號,權限依職務分,離職照標準流程停用。整組共用一個帳號最省事,但出事時查不出是誰做的。
自己架要準備什麼
地端跑模型需要一台有 GPU 的主機。電力、散熱、機房空間、噪音都要先想過,這種機器不會放在辦公區的桌子底下。模型檔案動輒幾十 GB,存放位置和備份要一起規劃,也要指定一個人負責更新。
導入的順序
先找一個範圍小、成效看得出來的部門試用,例如客服整理信件、業務寫報價說明。同時訂一頁使用規範:哪些資料不能輸入、產出要不要人工複核、誰負責審核。試三個月再決定要不要擴大到其他部門,比一開始就全公司開帳號省事得多。
尚筠科技協助中小企業規劃 AI 工具需要的網路、帳號與資料存放方式,需要討論可以打 02-2397-2716。