めもめも

このブログに記載の内容は個人の見解であり、必ずしも所属組織の立場、戦略、意見を代表するものではありません。

2015-01-01から1年間の記事一覧

「通訳入門」の受講記録を書いてみる(その1)

何の話かというと サイマルアカデミーという通訳専門学校の「通訳入門」短期集中コース(4時間x3回)を自腹で受講しはじめたので、そこで学んだことを吐き出します。今回は、第1回の4時間分です。 全体の様子 講師はプロの通訳の方で、Native Languageは英語…

「Rプログラミング入門」をPythonで書き直す

何の話かというと RStudioではじめるRプログラミング入門作者: Garrett Grolemund,大橋真也,長尾高弘出版社/メーカー: オライリージャパン発売日: 2015/03/25メディア: 大型本この商品を含むブログを見る某編集長から上記の書籍が送られてきて、「これは、次…

Analytic description of "Think Bayes"

Introduction Think Bayes作者: Allen B. Downey出版社/メーカー: Oreilly & Associates Inc発売日: 2013/10/04メディア: ペーパーバックこの商品を含むブログを見るThe book "Think Bayes" solves various problems with Bayesian inference without using …

昇圧器を入れた場合の消費電力の変化

何の話かというと Twitterで「昇圧器で電圧を4倍にしたら、4倍の電流が流れるのはおかしい(エネルギー保存則がほげほげ)」という強烈にスルー力が試される話題を見かけたのですが、スルー力を発揮しきれずに思わず計算してしまいました。。。。詳しい解説…

PRML 5.1〜5.3:2層 Neural Network をベタに実装した結果

やる事 (x, y) 平面上のデータをロジスティクス回帰で二項分類します。回帰式として、中間層に2個のユニットを持つ下記のNeural Networkを使用します。バイアス項を含めて、9個のパラメーター を持つ関数になります。次の誤差関数を極小にするように、Back …

Using minio server with Docker

What is minio? Please check out the following links. Source Code on GitHub Minimal object storage with Minio Minio - No knobs to turn, No button to push Former Gluster founder launches open source startup Steps to run minio server with Doc…

日本人が大人になってから英語(英会話)を勉強する時のポイント的な何か

これを書こうと思った背景 個人的に英語は、(大人になってから)すんげぇがんばって勉強してきたので、同じように英語の勉強で苦労している方に、何か参考になることが伝えられたら、という思いはいつもあるのですが、今まで、いまいち、具体的に何かを語る…

Fedora22のDockerでoverlayfsドライバーを利用する手順

まずは、表題の手順だけを簡潔に・・・。そのうち、内部構造も詳しく説明するかも知れません。 参考資料 Fedora22でoverlayfsを使う手順 手順 Fedora22 Serverをインストールして、まずは最新パッケージにアップデートした上で、「石川さんごめんなさい」を…

Fedora22でoverlayfsを使う手順

参考資料 ・カーネルドキュメント Overlay Filesystem ・overlayfsのメインラインコミット overlay filesystem 手順 Fedora22 Serverをインストールして、まずは最新パッケージにアップデートします。 # dnf -y update # reboot # cat /etc/fedora-release F…

日経Linux連載「RHEL7/CentOS7で学ぶ・初めての"本格"サーバー構築」の補足&訂正

本誌にも掲載する予定ですが、取り急ぎここに書いておきます。 2015年4月号(連載第2回) pvcreateコマンドで物理ボリュームを登録する際に、過去のデータが残った古いディスクを再利用しているとエラーが発生することがあります。古いディスクを再利用する…

「シャノン=ハートレーの定理」の簡易的な導出

(参考)シャノン=ハートレーの定理周波数 の信号を1秒間入力したとして、その入力波をフーリエ級数に展開すると(正弦部分と余弦部分をあわせて) 個の一次独立な基底波 に分解することができます。したがって、 ――― (1)と分解して、この1秒間の信号に対し…

RHEL7/CentOS7のLinux KVMリソース割り当て機能

RHEL7/CentOS7では、virshコマンドから仮想マシンに対するリソース割り当てを制御できるようになっていますので、そのあたりを説明します。 CPU Pinning 仮想マシンに割り当てた仮想CPUごとに、その仮想CPUが使用する物理コア(その仮想CPUの処理に割り当て…

PRML 4.3.6 Canonical link functionの説明(簡易版)

「PRML 4.3.6 Canonical link functionの説明」は数式がごちゃごちゃして本質が見えにくいので、数式をシンプルにしたバージョンを計算しておきます。(やっている中身は同じです。)まず、先の記事では、GLMを次のように定義しました。―――――――― 一般に、目…

EMアルゴリズムの幾何学的解釈

「EMアルゴリズムが幾何学的に説明できる」と聞いた驚きが情報幾何に興味を持ったきっかけということで、そこのところを綺麗に整理してみます。議論の元ネタは、「情報幾何学の新展開」の第12章です。幾何を用いない(普通の)EMアルゴリズムの説明は、こち…

Legendre変換のまとめ

添字の和については、Einsteinの規約を用います。 を凸関数とする時、以下で双対変数 と双対凸関数 を定義します。 ―― (1) ―― (2)以下の議論では、 と は (1) の関係で互いの関数になっていると理解します。この時、次の双対関係が成り立ちます。 証明は以下…

PRML 9.4 The EM Algorithm in General の証明

目的 Latent variable を持つ確率分布 について、 を極大にする を求めること。 説明 より、 任意の確率分布 を両辺に掛けて、 の和をとると下記が証明される。 ―― (1)ここに、 ここで、 は、Kullback-Leibler divergence なので、、かつ、(すなわち、 が …

EM法による手書き文字の分類

PRMLの「9.3.3 Mixtures of Bernoulli distributions」で紹介されている手書き文字の分類アルゴリズムを実装してみます。アルゴリズムの解説は下記資料の「混合分布とEM法によるクラスタリング」を参照してください。 ソフトウェアエンジニアのための「機械…

PRML 4.3.6 Canonical link functionの説明

基本的にはテキストと同じことを言い直してるだけですが、テキストはGLMの定義などが曖昧なので、そのあたりを正確に書きます。 GLMの定義 一般に、目的変数 の確率分布がパラメータ と特徴変数 の関数 として決まるモデルを考えます。その中でも特に、ある1…

k-means法で画像を減色するサンプルコード

何かというと 下記のような画像ファイルの色数を減らして、N色の画像にする処理を考えます。どんな方法を思いつくでしょうか? (N=16あたりで考えてください。)たとえば、次のような手順が考えられます。 (1)画像の中で代表的な色をN個選ぶ。 (2)それぞれ…

Perceptronのパラメータ変化を見るコード

こちらです。 # -*- coding: utf-8 -*- # # Perceptronによる二項分類 # # 2015/04/24 ver1.0 # import numpy as np import matplotlib.pyplot as plt import pandas as pd from pandas import Series, DataFrame from numpy.random import multivariate_nor…

ロジスティック回帰のROC曲線を描くコード

ロジスティック回帰とは? ロジスティック回帰は線形判別法の一種で、Type=0, Type=1 の2種類のカテゴリーに分類されるデータがあるときに、「あるデータが Type=1 に属する確率」を推定します。たとえば、(x, y) 平面上に Type=1, Type=0 のサンプルが10個…

Logistic RegressionとPerceptronを比較するコード

これです。 # -*- coding: utf-8 -*- # # ロジスティック回帰とパーセプトロンの比較 # # 2015/04/24 ver1.0 # import numpy as np import matplotlib.pyplot as plt import pandas as pd from pandas import Series, DataFrame from numpy.random import ra…

PRML 第1章の「ベイズ推定によるパラメータフィッティング」の解説(その2)

ちなみに 本記事のタイトルは「PRML第1章」とついていますが、実質的には、「3.3 Bayesian Linear Regression」の説明になっています。 ベイズ推定によるカーブフィッティング 下記の記事では、平均 が未知の正規分布について、ベイズ推定でフィッティングす…

PRML 第1章の「ベイズ推定によるパラメータフィッティング」の解説(その1)

ちょっと準備 正規分布の平均 と分散 に関する計算をする際に、 (つまり、)とおいて、 の代わりに で計算することがあります。この方が計算が簡単になることが多いためですが、一般に、分散 の逆数を精度(precision) と呼びます。精度が大きい(精度が高…

Bayesの定理とBayes推定を初心者向けに説明してみる

簡単な例 どれか1つのボールが等確率で出てくる玩具があります。 小玉 大玉 合計 青玉 2 3 5 赤玉 6 1 7 合計 8 4 12 ■周辺確率の関係式青玉が出てくる確率は、 小さな青玉が出てくる確率は、 大きな青玉が出てくる確率は、 これらから分かるように、 一般…

PRML 第1章の「最尤推定によるパラメータフィッティング」の解説

何の話かというと 「PRML 第1章の多項式フィッティングの例を再現」では、二乗平均平方根誤差を最小にするという条件でフィッティングを行いました。しかしながら、フィッティングを行う条件は他にもいろいろ考えられます。「有用な結果(つまり、未知のデー…

PRML 第1章の多項式フィッティングの例を再現

何の話かというと Pattern Recognition and Machine Learning (Information Science and Statistics)作者: Christopher Bishop出版社/メーカー: Springer発売日: 2010/02/15メディア: ハードカバー購入: 5人 クリック: 67回この商品を含むブログ (29件) を見…

FlannelのVXLANバックエンドの仕組み

何の話かというと Kubernetesの環境をセットアップする際は、コンテナ間で通信するための内部ネットワークを用意する必要があり、このためのツールとして、Flannelがよく利用されます。この時、バックエンドにVXLANを指定すると、物理ネットワークの上にVXLA…

RHEL Atomic HostのSPCとatomicコマンドについて

(参考)RHEL Atomic Hostのご紹介RHEL Atomic HostのGA版では、ベータ版にはなかった下記の機能拡張が行われています。これらをクイックに紹介します。・SPC(Super Privileged Container) ・atomicコマンドによるコンテナのセットアップ ・Red Hat公式レジ…

Fisherの線形判別法と最小二乗法の関係

Pattern Recognition and Machine Learning (Information Science and Statistics)作者: Christopher Bishop出版社/メーカー: Springer発売日: 2010/02/15メディア: ハードカバー購入: 5人 クリック: 67回この商品を含むブログ (29件) を見るPRML(↑)の「Ch…