基本情報技術者 誤差 無限小数 割り切れない場合 - FC2ブログの有料プランで素人が雑記ブログで記事書きまくる

基本情報技術者 誤差 無限小数 割り切れない場合

基本情報
基本情報技術者 誤差 無限小数 割り切れない場合

どうも、エフロン君です。この記事では基本情報技術者試験を受けるにあたって必要な知識である誤差について述べていきたいと思います。
誤差とは、実際の数値と、コンピュータ内部で表現できる数値との間に生じたずれのことを言います。

また、例えば1/3=0.333333333・・・のように永久に続く数字を無限小数と言います。

今回は誤差について5種類解説していきたいと思います。
・けたあふれ誤差
・情報落ち
・打ち切り誤差
・けた落ち
・丸め誤差


・けたあふれ誤差
演算した結果が、コンピュータの扱える最大値、最小値を超えることによって生じる誤差のこと。
最小値を超えてしまうことをアンダーフロー
最大値を超えてしまうことをオーバーフロー。といいます。
例えば、2進数8ビットの固定小数点数で考えると、
表現できる範囲hが「-128~127」までです。
このとき、「130」や「-200」などは範囲を超えてしまっているのでオーバーフローとなります。

この時注意するのは最小値、最大値は絶対値を表しているということです。
アンダーフローは例えば、0.0000000・・・0001を表現するなど、指数部がパンクしてしまうことで起こります。
7b788e23e57cd402f0f351a955e0bf1b.png
c618ee36.png

・情報落ち
絶対値の大きな数と絶対値の小さな数の加減算を行ったときに、絶対値の小さな数が計算結果に反映されないことによって生じる誤差のこと。

例えば、0.1×10^5+0.1×10^-5があった場合
結果的には0.1000000001×10^5となりますが、正規化するため、0.1×10^5となります。

・打ち切り誤差
計算処理を完了まで待たずに途中で打ち切ることによって生じる誤差のこと。
円周率など永遠に続き計算をあらかじめ定めた桁数で表現する。

・けた落ち
絶対値がほぼ等しい数値同士の差を求めた時に、有効な桁数が大きく減ることによって生じる誤差のこと。
例えば、
0.123×10^8から0.121×10^8を引いた場合。
0.002×10^8となりますが正規化をするため、
0.200×10^6となります。
しかし出てきた0が元々0であったという保証はないため、信頼できない値になる。

・丸め誤差

表現できる桁数を超えてしまったがために、最初受けたより小さい部分について、四捨五入や切り上げ、切り捨てなどを行うことによって生じる誤差のこと。
{1.101011110000111000}10100011→下線部の数値は捨てられる。その分誤差が出る。

以上で誤差に関する説明は終わりです。
いかがでしたか?少しでも理解していただければ幸いです。
それでは今回はこの辺で。
エフロン君がおすすめの教材はこちらです。実際に使ったのがキタミ式です。
エフロン君の友人は柏木先生を使ってました。

キタミ式イラストIT塾基本情報技術者(平成30年度) 情報処理技術者試験 [ きたみりゅうじ ]

価格:2,138円
(2018/7/24 15:39時点)
感想(2件)



栢木先生の基本情報技術者教室(平成30年度) イメージ&クレバー方式でよくわかる [ 栢木厚 ]

価格:1,922円
(2018/7/24 15:40時点)
感想(1件)


関連記事

コメント

非公開コメント

エフロン君

どうも、エフロン君です。 来年から社会人になる国公立大学の大学生です!仕入れた情報や自分が学んできたうえで感じたことなど記載していくので是非見ていってください!


Twitterフォローもよろしくね

よく閲覧されている関連記事はこちらから




にほんブログ村 大学生日記ブログ 大学4年生へにほんブログ村 投資ブログ 仮想通貨マイニングへ
にほんブログ村 就職バイトブログ 大学新卒の就職・就職活動へ


1日1回クリックして応援してくれると嬉しいです。

こちらもよろしく!
このエントリーをはてなブックマークに追加 Share on Google+

訪問者数

bitFlyerにすれば失敗しない!

bitFlyer ビットコインを始めるなら安心・安全な取引所で

GMOなら安心して取引可能!

無料で初めてリスクなし!?

オススメのポイントサイトです。
ポイントでお小遣い稼ぎ|ポイントタウン

人気No1ポイントサイト!

モッピー!お金がたまるポイントサイト

Amazonでお得にゲームを買おう