[ 初めての方へ | 一覧(最新更新順) | 全文検索 | 過去ログ ]
『計算式』(くまま)
2240491バイト→0.002136699GBにする計算式を教えてください。
初歩的なことで申し訳ございませんがよろしくお願いいたします。
< 使用 Excel:Excel2019、使用 OS:Windows10 >
2240491/1024/1024/1000 ということだろうか? 1024バイト →1キロバイト 1024キロバイト→1メガバイト 1000メガバイト→1ギガバイト (ねむねむ) 2023/02/01(水) 12:39:29
>2240491バイト→0.002136699GBにする計算式を教えてください。
確認ですがどういう計算でその答えになるのでしょうか?
普通は以下のようなルールのはずですから、
バイト ← キロバイト ← メガバイト ← ギガバイト 1024倍 1024倍 1024倍
「2240491バイト」を1024^3で割り戻すと計算上「0.00208661984652281」になりませんか?
(詳細に検証してないので演算誤差が影響してたらごめんなさい)
「0.002136699GB」になるということは、どこかで丸めていたりするのでしょうか?
なお、通常のルールで計算してよければ、エクセルの関数で↓のようなものがあるようです。
https://linkgear.jp/excel/202111153220.html
よって↓のようにすれば、「0.00208661984652281」が求まります。
=CONVERT(2240491, "byte", "Gibyte" ) (ネット検索した限りではExcel 2007以降であれば対応しているみたいです)
(もこな2) 2023/02/01(水) 12:51:11
ありがとうございました。
(くまま) 2023/02/01(水) 13:04:42
[ 一覧(最新更新順) ]
YukiWiki 1.6.7 Copyright (C) 2000,2001 by Hiroshi Yuki.
Modified by kazu.