事象の数nにおいて、一様に確率が1/nとなる場合のエントロピー計算についての途中の計算式がわかりません。 H(A) = - Σ (1/n log (1/n)) = Σ (1/n log (n)) = ... = log(n) Σ記号が消えるまでの途中の計算式の詳細をご教授お願いします。

H(A) = - Σ{k=1〜n} p[k] log(p[k]) ここで、どのk(k=1〜n)についてもp[k]が同じ値cである場合、 p[k] = c を代入すると H(A) = - Σ{k=1〜n} c log(c) = - n (c log(c)) そして、その「同じ値c」とは c = 1/n である。これを代入。

添字をn以外といいつつnを使っちゃったんで修正投稿します。一様分布なので1/nは変化しません。 Σはn以外の添字を使わないといけないですね。 H(A)=-Σ[i=0→(n-1)]{(1/n)log(1/n)} =-(1/n)log(1/n)Σ[i=0→(n-1)]{1} (※ｎは固定値なので前に出せる) =-(1/n)log(1/n){n} =-log(1/n) =log(n) (※log(1/n)=log(1)-log(n)=-log(n)) という計算になります。

一様分布なので1/nは変化しません。 Σはn以外の添字を使わないといけないですね。 H(A)=-Σ[n=0→(n-1)]{(1/n)log(1/n)} =-(1/n)log(1/n)Σ[n=0→(n-1)]{1} (※ｎは固定値なので前に出せる) =-(1/n)log(1/n){n} =-log(1/n) =log(n) (※log(1/n)=log(1)-log(n)=-log(n)) という計算になります。

No.1へのコメントについて > Σの範囲は、n = 0 ~ (n-1)です。ずいぶん変なことを仰るが、だったら、 k = 0〜 (n-1) と読み替えてくださいな。

Σ の範囲はなんだろな？

情報じょうほうエントロピーの一様いちよう分布ぶんぷのシグマ計算けいさん

解決かいけつ済ずみ

気きになる
0
件けん

質問しつもん者しゃ：PCNgZsxnAEYLaJc602
質問しつもん日時にちじ：2023/09/04 12:54
回答かいとう数すう：5件けん

事象じしょうの数かずnにおいて、一様いちように確かく率りつが1/nとなる場合ばあいのエントロピー計算けいさんについての途中とちゅうの計算けいさん式しきがわかりません。

H(A) = - Σしぐま (1/n log (1/n))
= Σしぐま (1/n log (n))
= ...
= log(n)

Σしぐま記号きごうが消きえるまでの途中とちゅうの計算けいさん式しきの詳細しょうさいをご教授きょうじゅお願ねがいします。

Σしぐまの範囲はんいは、n = 0 ~ (n-1)です。

補足ほそく日時にちじ：2023/09/04 14:07
通報つうほうする
すみません、n = 0 ~ n-1です。

No.2の回答かいとうに寄よせられた補足ほそくコメントです。補足ほそく日時にちじ：2023/09/04 14:11
通報つうほうする

通報つうほうする

この質問しつもんへの回答かいとうは締しめ切きられました。

質問しつもんの本文ほんぶんを隠かくす

回答かいとう (5件けん)

No.1ベストアンサー

回答かいとう者しゃ： stomachman
回答かいとう日時にちじ：2023/09/04 13:52

H(A) = - Σしぐま{k=1〜n} p[k] log(p[k])

ここで、どのk(k=1〜n)についてもp[k]が同おなじ値ちcである場合ばあい、
　　p[k] = c
を代入だいにゅうすると
　　H(A) = - Σしぐま{k=1〜n} c log(c)
　　= - n (c log(c))
そして、その「同おなじ値ちc」とは
　　c = 1/n
である。これを代入だいにゅう。

- 0
- 件けん

通報つうほうする

この回答かいとうへのお礼れい

ありがとうございます！
Σしぐまの順番じゅんばんと値ねと個数こすうを混同こんどうしてしまっていました。

以下いかのリンクを参考さんこうに、一様いちよう分布ぶんぷのエントロピーがlog(n)で最大さいだいになることも納得なっとくしました。
https://edu.isc.chubu.ac.jp/hsuzuki/iip/entropy/ …

通報つうほうする

お礼れい日時にちじ：2023/09/04 15:51

No.5

回答かいとう者しゃ： t-8maki
回答かいとう日時にちじ：2023/09/04 15:25

添字そえじをn以外いがいといいつつnを使つかっちゃったんで修正しゅうせい投稿とうこうします。

一様いちよう分布ぶんぷなので1/nは変化へんかしません。
Σしぐまはn以外いがいの添字そえじを使つかわないといけないですね。
H(A)=-Σしぐま[i=0→(n-1)]{(1/n)log(1/n)}
=-(1/n)log(1/n)Σしぐま[i=0→(n-1)]{1} (※ｎは固定こてい値ちなので前まえに出だせる)
=-(1/n)log(1/n){n}
=-log(1/n)
=log(n) (※log(1/n)=log(1)-log(n)=-log(n))
という計算けいさんになります。

- 0
- 件けん

通報つうほうする

No.4

回答かいとう者しゃ： t-8maki
回答かいとう日時にちじ：2023/09/04 15:15

一様いちよう分布ぶんぷなので1/nは変化へんかしません。

Σしぐまはn以外いがいの添字そえじを使つかわないといけないですね。
H(A)=-Σしぐま[n=0→(n-1)]{(1/n)log(1/n)}
=-(1/n)log(1/n)Σしぐま[n=0→(n-1)]{1} (※ｎは固定こてい値ちなので前まえに出だせる)
=-(1/n)log(1/n){n}
=-log(1/n)
=log(n) (※log(1/n)=log(1)-log(n)=-log(n))
という計算けいさんになります。