AI 活用の第一歩 — 小さな Pi 5 から自前の GPU サーバーへ

仕事で AI を使う第一歩は、大きな投資ではありません。小さく始めて記録の型を作り、AI の出す答えを人が確かめる形を先に決めることです。当事務所は、手のひらに載るコンピュータ Raspberry Pi 5 から始め、その後、自前の GPU サーバーを組み立てました。

本記事は、「デジタル業務とは何か」で予告したシリーズの1本目です。当事務所が実際にたどった順に、何を作り、何につまずき、何を学んだかをお伝えします。

小さく始める — Raspberry Pi 5

当事務所の AI 活用は、Raspberry Pi 5 を組み立てたところから始まりました。

手のひらに載る基板に部品を付けてケースに収め、モニターにつなぐと、画面にデスクトップが映りました。小さな基板が、一台のコンピュータとして動き始めた瞬間です。

Raspberry Pi 5 は、家庭・産業・教育などに向けて作られた、小型で安価なコンピュータです。性能は高くありませんが、常に電源を入れておき、AI の道具を動かす場所としては十分でした。

Pi の上で最初のころに作ったのが、「Command Room」という AI たちの会議室です。議題を出し、AI が意見を出し、投票し、決まったことをタスクとして残す。その様子を、人が画面から覗けるようにしました。

AI 同士がどう話を進め、どこで食い違うのかを、人が覗ける窓を先に持ったことが、その後の作り方の土台になりました。

つまずくたびに、決まりを作る

Pi で始めてすぐに、二つのことでつまずきました。

一つは、AI が忘れることです。AI は会話が変わると、前の文脈を覚えていません。昨日決めたことを今日の AI は知らず、同じ議論を何度も繰り返すことになりました。

そこで、始めて1週間ほどで、記録の型を4つ決めました。

• 時系列の記録: いつ、何をして、どうなったか
• 追記だけの台帳: 決めたことを消さずに積み重ねる
• 手順書: 同じ作業を誰がやっても同じ結果になるように
• 引き継ぎ: 作業を途中で別の AI や翌日の自分に渡すために

この4つの型は、形を変えながら今も使っています。

もう一つは、鍵の扱いです。パスワードのような鍵を、うっかり記録に混ぜてしまったことがありました。すぐに記録を作り直して鍵が紛れ込むのを止める仕組みを入れ、それからは鍵を記録や設定と厳しく分けて扱っています。

小さな規模のうちにつまずいたからこそ、決まりを早く固めることができました。

なぜ自前のサーバーを持つのか

自前の GPU サーバーを持つと、外のサービスに頼らず、手元で AI を動かす仕組みが作れます。

GPU を自前で持つ個人の事務所は、まだ珍しいかもしれません。それでも自前のサーバーを選んだのは、手元で動く AI があれば作れるものが大きく変わるからです。たとえば、次のような仕組みが作れます。

• 文字の読み取り（OCR）や文章の生成を、手元のサーバーの上で動く AI（ローカル LLM）で行う
• 外部の AI サービスに文章を渡す前に、個人情報を記号に置き換え、元に戻すのは手元のサーバーの中だけにする
• AI が作ったものは、出す前に人が確かめる

当事務所は、こうした仕組みを自ら作って動かしています。ただし、仕組みは使い方と組み合わせて初めて意味を持ちます。置き換えが完全だと言えるものでもありません。どこまでを仕組みに任せ、どこからを人が確かめるか。その判断が、AI を使ううえで欠かせなくなります。

GPU サーバーを組み立てる

Pi の次に、GPU サーバーを自分の手で組み立てました。

空のケースに、CPU、メモリ、GPU と、部品を一つずつ組み込んでいきます。手順は ChatGPT をはじめ、いくつもの AI に尋ねながら進めました。部品の挿し方、配線の順番、うまくいかないときに何を見るか。迷ったときは、同じことを複数の AI に聞いて答えを比べました。

ただ、AI が増えれば答えも増え、食い違いも増えます。どの答えを採り、次に何をするかを決めて作業を回す役は、結局、人に残りました。

部品がそろったその日に組み始め、ケースの中に光がともりました。ところが、そこからが長かったのです。モニターにつないでも設定がうまくいかず、何度もやり直しました。深夜になっても終わらず、朝を迎えたころ、ようやくモニターにデスクトップが映りました。自分で組んだ機械が、一台のサーバーとして動き始めた瞬間です。

AI は道を示しますが、その道が間違っていることもあります。確かめ、手を動かし、結果に責任を持つのは人だということを、ここで体で覚えました。

AI は間違える。だから、任せきりにしない

AI に任せきりにすると、AI は前提を少しずつ取り違えます。だから、AI の出したものをうのみにせず、人が確かめて直す役を持つ必要があります。

Pi の上の Command Room で AI 同士の話し合いを人が覗けるようにしたのも、決めるのは人だと考えたからです。その後、AI に任せる作業が増えるにつれて、AI の言うとおりに設定を変えて、サーバーが動かなくなったこともありました（この話は次の記事でお伝えしています）。

規則を書けば AI が守る、とは限りません。AI は規則の文字は理解しても、実際の作業でどう当てはめるかを取り違えるからです。AI は間違えるものと考えて、間違いを見つけて直す手順を先に用意しておく。これが、当事務所の AI 活用の軸になりました。

今日できていることと、目指していること

Pi の上で始めた Command Room は、のちに GPU サーバーの上で作り直しました。

Pi の頃の Command Room は、AI たちのやりとりを人が覗く窓でした。GPU サーバーの上では、様々な AI が、同じサーバーの上で直接一緒に作業できるようになりました。人が覗くだけの会議室から、AI が手を動かす作業場になったということです。

今日では、AI が事務所のサーバーを、人が許した範囲だけで操作できます。このホームページも、このサーバーの上の AI と一緒に作り、運用しています。

目指しているのは、こうした仕組みを日々の仕事に合う形でまとめた、当事務所のアプリ「Daegis」です。Daegis については、シリーズの4本目でお伝えしています。

第一歩で確かめたいこと

これから仕事で AI を使い始める方に、当事務所の経験からお伝えしたいことは次の4つです。

• 小さく始める: 最初から大きな機材は要りません。手元の小さな環境で、AI が何をし、どこで間違えるかを見ることから始められます
• 記録の型を先に作る: 何を決め、なぜそうしたかを残す型があれば、AI が変わっても作業が続けられます
• 鍵を分ける: パスワードのような鍵は、記録や設定と最初から分けて扱います
• 出す前に人が確かめる: AI の出したものは、人が確かめてから使います。責任を持つのは人です

次の記事では、サーバーの故障から、ホームページの作り替えまで、AI で業務を改善した事例をお伝えしています。

当事務所のサポート

当事務所は、自ら作って動かしてきた経験をもとに、事務所や企業の AI 活用を支援いたします。

• 始め方の整理: 業務のどこから AI を使うか、どの規模の環境から始めるかを一緒に整理いたします
• 記録と手順の型づくり: AI と一緒に働くための記録・手順の型を、業務に合わせて作ります
• 確かめる仕組みの設計: AI の出したものを人が確かめる段取りと、外部の AI に渡す前の置き換えなど、作れる仕組みをご提案いたします

デジタル業務に関するご相談は、お問い合わせフォームよりお気軽にお寄せください。

---

本記事は、行政書士法第1条の2第2項の趣旨に基づく取組の一環として公開しています。