% EJERCICIO 5
% CARGA DE DATOS

Pb_dado_a = [.8 .2; .3 .7]
Pa = [.3 .7]

% ITEM A)
Pb = Pa*Pb_dado_a

% ITEM B)
Pa_dado_b = ((Pb_dado_a./Pb) .* Pa')

% ITEM C)
% ENTROPÍA H(A)
HA = sum(Pa .* log2(1 ./ Pa))

%ITEM D)
HA_dado_b =  sum(Pa_dado_b .* log2(1 ./ Pa_dado_b))
Equiv = HA_dado_B = HA_dado_b * Pb'

% ITEM E)
IM = HA - HA_dado_B

% EJERCICIO 6
% CANAL IDEAL

p = 0.999999999999
Pb_dado_a = [p 1-p; 1-p p]
Pa = [.5 .5]
 
% ITEM A)
Pb = Pa*Pb_dado_a % HACIA ADELANTE
Pa_dado_b = ((Pb_dado_a./Pb) .* Pa') % HACIA ATRÁS
HA = sum(Pa .* log2(1 ./ Pa)) % ENTROPÍA H(A)
HA_dado_b = sum(Pa_dado_b .* log2(1 ./ Pa_dado_b)) % ENTROPÍA H(A/B)
HA_dado_B = HA_dado_b * Pb'% EQUIVOCACIÓN: ENTROPIA (A/B) * HACIA ADELANTE: H(A/B)*P(B)
Equiv_ideal = HA_dado_B 
% ITEM B)
IM_ideal = HA - HA_dado_B % INFORMACIÓN MUTUA i(A;B)

% CANAL INVERSOR
p = 1-0.999999999999
Pb_dado_a = [p 1-p; 1-p p]
Pa = [.5 .5]
% ITEM A)
Pb = Pa*Pb_dado_a % HACIA ADELANTE
Pa_dado_b = ((Pb_dado_a./Pb) .* Pa') % HACIA ATRÁS
HA = sum(Pa .* log2(1 ./ Pa)) % ENTROPÍA H(A)
HA_dado_b = sum(Pa_dado_b .* log2(1 ./ Pa_dado_b)) % ENTROPÍA H(A/B)
HA_dado_B = HA_dado_b * Pb'% EQUIVOCACIÓN: ENTROPIA (A/B) * HACIA ADELANTE: H(A/B)*P(B)
Equiv_inversor = HA_dado_B 
% ITEM B)
IM_inversor = HA - HA_dado_B % INFORMACIÓN MUTUA i(A;B)


% CANAL AMBIGÜO
p = 0.5
Pb_dado_a = [p 1-p; 1-p p]
Pa = [.5 .5]
% ITEM A)
Pb = Pa*Pb_dado_a % HACIA ADELANTE
Pa_dado_b = ((Pb_dado_a./Pb) .* Pa') % HACIA ATRÁS
HA = sum(Pa .* log2(1 ./ Pa)) % ENTROPÍA H(A)
HA_dado_b = sum(Pa_dado_b .* log2(1 ./ Pa_dado_b)) % ENTROPÍA H(A/B)
HA_dado_B = HA_dado_b * Pb'% EQUIVOCACIÓN: ENTROPIA (A/B) * HACIA ADELANTE: H(A/B)*P(B)
Equiv_ambiguo = HA_dado_B 
% ITEM B)
IM_ambiguo = HA - HA_dado_B % INFORMACIÓN MUTUA i(A;B)