2 3

C h a p t e r 1 : I n t r o d u c t i o n
1 . A i m s
T h e a i m o f t h i s t h e s i s i s t o e x p l o r e t h e u s e o f c o g n i t i v e a n d o t h e r p r i n c i p l e s i n i n t e r f a c e
e v a l u a t i o n , b y i n v e s t i g a t i n g t h e u s e m a d e o f e v a l u a t i o n m a t e r i a l w h i c h c a n b e s h o w n t o
d e r i v e f r o m s u c h p r i n c i p l e s . S p e c i f i c a l l y , t o c o m p a r e a n e x p a n d e d s e t o f p r i n c i p l e s , w h o s e
u s a g e a n d d e r i v a t i o n i s m a d e m o r e e x p l i c i t , w i t h t h e s e t o f s h o r t e r a n d m o r e g e n e r a l
h e u r i s t i c s u s e d i n h e u r i s t i c e v a l u a t i o n ( N i e l s e n 1 9 9 3 , 1 9 9 4 d ) . T h e f o c u s o f t h e s e
c o m p a r i s o n s w a s t o b e t h e u s a b i l i t y p r o b l e m s i d e n t i f i e d b y b o t h n o v i c e a n d e x p e r i e n c e d
e v a l u a t o r s . A n a l y s i s w i l l c o n c e r n b o t h t h e q u a n t i t y a n d t y p e o f p r o b l e m s r e p o r t e d .
T h u s
1 . T o i n v e s t i g a t e w h e t h e r e x p a n d e d e v a l u a t i o n p r i n c i p l e s c a n b e u s e d b y b o t h
e x p e r i e n c e d a n d n o v i c e e v a l u a t o r s t o i d e n t i f y m o r e u s a b i l i t y p r o b l e m s t h a n w i t h
N i e l s e n s h e u r i s t i c s a l o n e .
2 . T o i n v e s t i g a t e t h e c l a i m s m a d e f o r N i e l s e n s h e u r i s t i c s t h a t i n a h e u r i s t i c e v a l u a t i o n o n l y
a s m a l l n u m b e r o f e v a l u a t o r s m a y b e r e q u i r e d t o u n c o v e r m o s t o f t h e p r o b l e m s w i t h a
g i v e n i n t e r f a c e .
T h i s C h a p t e r w i l l b e c o n c e r n e d m a i n l y w i t h t h e f i r s t o f t h e s e t w o t h e m e s , n a m e l y t h e
c o m p a r i s o n o f e v a l u a t i o n p r i n c i p l e s a n d h e u r i s t i c s . T h e r e m a i n d e r o f t h e C h a p t e r d i s c u s s e s
m o r e g e n e r a l i s s u e s c o n c e r n i n g u s a b i l i t y a n d u s a b i l i t y e v a l u a t i o n . T h e s e c o n d t h e m e w i l l b e
i n t r o d u c e d f u l l y i n C h a p t e r 4 .
2 . R a t i o n a l e
T h i s t h e s i s s t a r t s f r o m t h e v i e w t h a t i t i s p o s s i b l e t o i d e n t i f y a c o m m o n s e t o f p r i n c i p l e s w h i c h
u n d e r l i e a w i d e r a n g e o f i n t e r f a c e f a m i l i e s , f r o m c o m m a n d - l i n e t o w e b s i t e s , a n d t h a t s u c h
p r i n c i p l e s s t a n d i n c o n t r a s t t o m e r e d e s i g n g u i d e l i n e s . T h e v i e w i s t h a t w h i l e g u i d e l i n e s t e n d
t o b e a p p l i c a t i o n a n d i n t e r f a c e - s p e c i f i c , p r i n c i p l e s o f f e r g e n e r a l r u l e s w h i c h c a n b e a p p l i e d t o
a r a n g e o f i n t e r f a c e s t y l e s a n d d e s i g n i s s u e s . W h i l e g u i d e l i n e s m e r e l y g u i d e , p r i n c i p l e s
i n c l u d e a r a t i o n a l e w i t h m o r e g e n e r a l a p p l i c a t i o n . T h e v i e w i s t h a t s u c h a r a t i o n a l e c a n m o s t
u s e f u l l y b e u n d e r p i n n e d b y p r i n c i p l e s d e r i v e d f r o m c o g n i t i v e p s y c h o l o g y . T h i s t h e s i s
m a k e s u s e o f t h e a u t h o r s o w n s e t o f e v a l u a t i o n p r i n c i p l e s , d r a w n f r o m a w i d e r a n g e o f
s o u r c e s b u t i n p a r t i c u l a r t h e a p p l i c a t i o n o f c o g n i t i v e p s y c h o l o g y t o i n t e r f a c e d e s i g n .
P r i n c i p l e s w i l l b e c o n t r a s t e d w i t h h e u r i s t i c s . H e u r i s t i c s a t t e m p t t o e n c a p s u l a t e a w i d e r r a n g e
o f e v a l u a t i o n m a t e r i a l i n t o a s h o r t s e t o f r u l e s o f t h u m b . H e u r i s t i c s c a n t h e r e f o r e b e
c o n s i d e r e d a s p r i n c i p l e s s h o r n o f t h e i r b a c k g r o u n d r a t i o n a l e . I t h a d a p p e a r e d t o b e a
r e l a t i v e l y s i m p l e m a t t e r t o d e m o n s t r a t e t h e s u p e r i o r i t y o f p r i n c i p l e s o v e r h e u r i s t i c s i n u s e r
C h a p t e r 1
2 4
e v a l u a t i o n s . T h e f a c t t h a t t h i s p r o v e d t o b e q u i t e d i f f i c u l t , a n d t h e n o n l y f o r r e s t r i c t e d
e v a l u a t i o n s c e n a r i o s , m a k e s u p t h e f i r s t o f t h e t w o t h e m e s t o b e e x p l o r e d i n t h e t h e s i s .
T h e s e c o n d t h e m e c o n c e r n s t h e p r e d i c t i v e p o w e r o f h e u r i s t i c s . T h e p r o p o n e n t o f o n e
w i d e l y u s e d s e t , J a k o b N i e l s e n ( c i t a t i o n s b e l o w ) , h a s c l a i m e d t h a t u s i n g s u c h a s e t o f
h e u r i s t i c s , s u i t a b l y e x p e r i e n c e d e v a l u a t o r s c a n b e t w e e n t h e m i d e n t i f y m o s t o f t h e u s a b i l i t y
p r o b l e m s w i t h a g i v e n i n t e r f a c e . T h e t h e s i s w i l l a l s o e x p l o r e t h e v a l i d i t y o f t h i s c l a i m i n
r e s p e c t o f b o t h n o v i c e a n d e x p e r i e n c e d e v a l u a t o r s . I t w i l l i n v e s t i g a t e t h e a b i l i t y o f b o t h
h e u r i s t i c s a n d p r i n c i p l e s t o e n a b l e n o t o n l y t h e i d e n t i f i c a t i o n b u t a l s o t h e p r e d i c t i o n o f
u s a b i l i t y p r o b l e m s .
3 . G u i d e l i n e s , P r i n c i p l e s a n d H e u r i s t i c s
3 . 1 G u i d e l i n e s
T h e r e a r e a l a r g e n u m b e r o f u s e r i n t e r f a c e d e s i g n g u i d e l i n e s , r a n g i n g f r o m t h e v e r y s p e c i f i c
a n d l o w - l e v e l t o t h e m o r e g e n e r a l . E x a m p l e s o f t h e s p e c i f i c f o r m i n c l u d e m e t r i c s f o r s c r e e n
d i s p l a y a n d l a y o u t ( D a v i s & S w e z e y 1 9 8 3 , V a n N e s 1 9 8 6 ) . M o r e g e n e r a l v e r s i o n s i n c l u d e
e a r l i e r a n d r e c e n t g u i d e s t o t y p i c a l G U I a n d W I M P e n v i r o n m e n t s ( C o l e e t a l . 1 9 8 5 , B a r c l a y
1 9 8 6 , M a y h e w 1 9 9 2 , B a i l e y 1 9 9 6 ) . T w o v e r y e x t e n s i v e b u t m a i n l y l o w - l e v e l c o l l e c t i o n s a r e
S m i t h & M o s i e r ( 1 9 8 6 ) a n d G o d d a r d ( 1 9 9 2 ) . I n - h o u s e o r p r o d u c t s t y l e g u i d e s s u c h a s A p p l e
( 1 9 8 9 ) , I B M ( 1 9 9 2 ) a n d M i c r o s o f t ( 1 9 9 5 ) h a v e n a r r o w e d t h e f o c u s t o s p e c i f i c p r o d u c t
d o m a i n s .
G u i d e l i n e s h a v e b e e n c r i t i c i s e d f o r b e i n g b o t h t o o g e n e r a l a n d t o o s p e c i f i c . T h e y a r e t o o
g e n e r a l i n t h a t i t i s d i f f i c u l t t o t r a n s l a t e t h e i r c o n t e n t i n t o s y s t e m - s p e c i f i c d e s i g n g u i d a n c e
( M o s i e r & S m i t h 1 9 8 6 , S m i t h 1 9 8 6 , P o t t e r e t a l . 1 9 9 0 ) , a n d t o d e c i d e b e t w e e n o r p r i o r i t i s e
t h e i r a d v i c e ( M a g u i r e 1 9 8 2 , M o s i e r & S m i t h 1 9 8 6 , P r e e c e e t a l . 1 9 9 4 , D i x e t a l . 1 9 9 8 ) . T h e y
a r e t o o s p e c i f i c w h e n t h e y f o c u s o n c u r r e n t t e c h n o l o g y a t t h e e x p e n s e o f m o r e g e n e r a l
g u i d a n c e ( S m i t h & M o s i e r 1 9 8 5 , M o s i e r & S m i t h 1 9 8 6 ) . S o m e g u i d e l i n e s c o m e w i t h a
d o u b l e - b i n d , t h e i r a p p a r e n t g e n e r a l i t y m a s k i n g a r e s t r i c t e d d o m a i n o f a p p l i c a t i o n . I n s u c h
c a s e s d e s i g n e r s m a y b e t e m p t e d t o o v e r - g e n e r a l i s e ( D e S o u z a e t a l . 1 9 9 0 ) o r t o a p p l y t h e
g u i d e l i n e s i n c o r r e c t l y ( P r e e c e e t a l . 1 9 9 4 ) . T h e s h e e r s i z e o f s o m e c o l l e c t i o n s m a y a l s o
m a k e i t d i f f i c u l t t o l o c a t e s p e c i f i c g u i d e l i n e s w i t h i n a s e t ( M o s i e r & S m i t h 1 9 8 6 ) .
R e m e d i e s f o r t h e f i r s t d e f i c i e n c y i n c l u d e m o r e e x p l i c i t s t a t e m e n t s o f t h e d o m a i n o f
a p p l i c a t i o n o f p a r t i c u l a r g u i d e l i n e s ( M a g u i r e 1 9 8 2 , V a n W e l i e e t a l . 1 9 9 9 ) , a n d t h e i n c l u s i o n
o f e x t e n s i v e e x a m p l e s o f g u i d e l i n e p r a c t i c e ( T e t z l a f f & S c h w a r t z 1 9 9 1 ) . S t y l e g u i d e s
a t t e m p t t o a d d r e s s b o t h d e f i c i e n c i e s . A s t o t h e s e c o n d d e f i c i e n c y , a t t e m p t s t o e x t e n d t h e
g e n e r a l i t y o f g u i d e l i n e s h a v e s o m e t i m e s g o n e b e y o n d t h e p o i n t o f p r a c t i c a l a p p l i c a t i o n .
E x a m p l e s a r e R u b e n s t e i n & H e r s h s ( 1 9 8 4 , p p 2 1 9 - 2 2 1 ) t e n i d e a s - n o . 1 b e i n g K n o w t h y
u s e r . T h e u s e r i s a l w a y s r i g h t - a n d H e c k e l s ( 1 9 8 4 ) c o l l e c t i o n o f 2 9 f r i e n d l y d e s i g n
I n t r o d u c t i o n
2 5
e l e m e n t s , t h e l a s t o f w h i c h i s Y o u n e e d v i s i o n . T h e t h i r d d e f i c i e n c y ( t h e p r o b l e m o f
n a v i g a t i n g l a r g e g u i d e l i n e s e t s ) h a s b e e n a d d r e s s e d b y s e a r c h a n d r e t r i e v a l t o o l s s u c h a s
h y p e r S A M ( I a n n e l l a 1 9 9 5 ) , f o r t h e 9 4 4 g u i d e l i n e s i n t h e S m i t h & M o s i e r ( 1 9 8 6 ) c o l l e c t i o n ;
m o r e r e c e n t l y , g u i d e l i n e m a n a g e m e n t s y s t e m s s u c h a s S h e r l o c k ( G r a m m e n o s e t a l . 2 0 0 0 )
a n d G U I D E ( H e n n i n g e r 2 0 0 0 ) a i m t o a l l o w b o t h t h e r e t r i e v a l a n d a p p l i c a t i o n o f o n l i n e
g u i d e l i n e s .
3 . 2 P r i n c i p l e s
O n e a p p r o a c h t o t h e d e f i c i e n c i e s o f g u i d e l i n e s i s t o b a c k u p e a c h a p p l i c a t i o n o r d o m a i n -
s p e c i f i c p i e c e o f d e s i g n a d v i c e w i t h a n u n d e r l y i n g r a t i o n a l e f r o m w h i c h i t c a n b e s e e n t o
d e r i v e . T h a t i s , t o c o m b i n e w h a t S m i t h ( 1 9 8 6 ) a n d D i x e t a l . ( 1 9 9 8 ) c a l l e d d e s i g n r u l e s w i t h a
m o r e g e n e r a l d e s i g n p r i n c i p l e ( H a m m o n d e t a l . 1 9 8 7 , D u m a s & R e d i s h 1 9 9 3 , P r e e c e e t a l .
1 9 9 4 , S u t c l i f f e 1 9 9 5 ) . T h u s e a c h d e s i g n s p e c i f i c a t i o n , a p p l i e d t o a p a r t i c u l a r i n t e r f a c e
d o m a i n o r c o m p o n e n t , w o u l d b e a c c o m p a n i e d b y i t s a p p r o p r i a t e p r i n c i p l e . E a c h p r i n c i p l e
w o u l d b e c o u c h e d i n s u f f i c i e n t l y g e n e r a l t e r m s t o h a v e a p p l i c a t i o n t o a w i d e r a n g e o f d e s i g n
p r o b l e m s , e n a b l i n g d e s i g n e r s a n d e v a l u a t o r s t o g e n e r a l i s e f r o m o n e p r o b l e m t o a n o t h e r .
T h i s i s t h e a p p r o a c h t h a t w i l l b e a d o p t e d i n t h i s t h e s i s . T h e t h r e e m a i n e x p e r i m e n t s r e p o r t e d
i n C h a p t e r s 2 t o 5 w i l l m a k e u s e o f d i f f e r e n t f o r m s o f p r i n c i p l e - b a s e d m a t e r i a l w i t h t h e g e n e r a l
f o r m j u s t o u t l i n e d . T h e s e p r i n c i p l e s ( o r p r i n c i p l e s s e t ) h a v e b e e n d r a w n f r o m a w i d e r a n g e
o f s o u r c e s i n c l u d i n g t h o s e d e r i v i n g f r o m c o g n i t i v e p s y c h o l o g y . T h e i n s p i r a t i o n f o r t h e l a t t e r
o r i g i n a l l y c a m e f r o m t h e c h a p t e r t i t l e d D e s i g n g u i d e l i n e s b y M a r s h a l l , N e l s o n & G a r d i n e r
( 1 9 8 7 ) i n G a r d i n e r & C h r i s t i e ( 1 9 8 7 ) . T h e f o r m a t a n d c o n t e n t o f t h e p r i n c i p l e s s e t w i l l b e
d e s c r i b e d b e l o w .
T h e a u t h o r , t h e n , a g r e e s w i t h H a m m o n d e t a l . ( 1 9 8 7 , p 4 0 ) t h a t t h e i n t e n t o f g u i d e l i n e s i s t o
c a p t u r e s o m e p s y c h o l o g i c a l p r i n c i p l e w h i c h i s s u f f i c i e n t l y i n v a r i a n t a c r o s s a r a n g e o f
c o n t e x t s f o r t h e g u i d e l i n e t o r e m a i n u s e f u l . T h e p r o b l e m w i t h g u i d e l i n e s i s t h a t t h e y r a r e l y
m a n a g e t o d o t h i s . I f t h e y a r e t o b e m u c h m o r e t h a n a b a s i s f o r c h e c k l i s t s ( a n d t h e r e a r e
s o m e - R a v d e n & J o h n s o n ( 1 9 8 9 ) a n d C l e g g e t a l . ( 1 9 8 8 ) C h a p t e r 1 0 a r e e x a m p l e s ) t h e n
g u i d e l i n e s n e e d t o a d d r e s s t h e n o v e l a n d i n t e g r a t i v e c o n c e p t u a l i s s u e s ( T e t z l a f f &
S c h w a r t z 1 9 9 1 ) o r m e t a - k n o w l e d g e ( D e S o u z a e t a l . 1 9 9 0 ) o u t o f w h i c h s p e c i f i c d e s i g n
g u i d a n c e m i g h t b e d i s t i l l e d . T h e y a l s o n e e d t o b e e x p r e s s e d i n s u f f i c i e n t l y c o l l o q u i a l f o r m t o
b e o f u s e t o d e s i g n e r s , a n d t o i n c l u d e a n y c o n s t r a i n t s o n t h e i r a p p l i c a t i o n ( T h i m b l e b y 1 9 8 4 ) .
I n s h o r t , g u i d e l i n e s n e e d t o s u p p o r t t h e i r r u l e s w i t h s u f f i c i e n t t h e o r e t i c a l e v i d e n c e t o
e n a b l e t r a d e - o f f s b e t w e e n p o s s i b l e d e s i g n s , p a r t i c u l a r l y i n t h e e a r l y s t a g e s o f t h e d e s i g n l i f e
c y c l e ( D i x e t a l . 1 9 9 8 ) .
M a r s h a l l e t a l . ( 1 9 8 7 ) o f f e r e d s o m e i n i t i a l s t e p s t o w a r d s a n o p e n i n g s e t o f s u c h
g u i d e l i n e s , d e r i v e d f r o m c o g n i t i v e p s y c h o l o g y p r i n c i p l e s . T h e s e a r e a r r a n g e d i n t o a
c a t e g o r y f r a m e w o r k o f r e l e v a n t c o n c e p t s o r 1 4 s e n s i t i v e d i m e n s i o n s ( i b i d . , p 2 2 2 ) ,
C h a p t e r 1
2 6
n a m e l y : D e s i g n o f p r o c e d u r e s a n d t a s k s , A n a l o g y a n d m e t a p h o r , T r a i n i n g a n d p r a c t i c e ,
T a s k - u s e r m a t c h , F e e d b a c k , S e l e c t i n g t e r m s , w o r d i n g a n d o b j e c t s , C o n s i s t e n c y , S c r e e n
d e s i g n , O r g a n i s a t i o n , M u l t i m o d a l a n d m u l t i m e d i a i n t e r a c t i o n , N a v i g a t i o n , A d a p t a t i o n , E r r o r
m a n a g e m e n t , L o c u s o f c o n t r o l . T h i s t h e s i s w i l l d e m o n s t r a t e t h a t s u c h c a t e g o r i s a t i o n s c a n
h a v e i m p l i c a t i o n s f o r t h e u s a b i l i t y p r o b l e m i d e n t i f i c a t i o n p r o c e s s . T h e f o c u s o f t h i s S e c t i o n i s
m o r e o n t h e c o n t e n t a n d f o r m a t o f s u c h g u i d e l i n e s t h a n t h e i r o r g a n i s a t i o n .
M o s t o f t h e M a r s h a l l e t a l . ( 1 9 8 7 ) s e n s i t i v e d i m e n s i o n s ( g u i d e l i n e c a t e g o r i e s ) h a v e t h e
s a m e f o r m a t . F i g u r e 1 . 1 i s a n i l l u s t r a t i o n . F i r s t c o m e s a n o v e r v i e w o f t h e c a t e g o r y a n d t h e
u n d e r l y i n g p r i n c i p l e ( s ) f r o m w h i c h t h e g u i d e l i n e s c o n t a i n e d i n i t d e r i v e . N e x t , a c o n c i s e
s t a t e m e n t o f t h e p r i n c i p l e ( s ) . T h e n f o l l o w s t h e a u t h o r s i n t e r p r e t a t i o n o f t h e p r i n c i p l e ( s ) i n
c o g n i t i v e p s y c h o l o g i c a l t e r m s . N e x t a r e o f f e r e d o n e o r m o r e e x a m p l e s o f h o w t h e
p r i n c i p l e ( s ) m i g h t a p p l y i n p r a c t i c e ( u s u a l l y o f f i c e - r e l a t e d c o m p u t e r i s e d t a s k s ) . T h e n a
s t a t e m e n t o f t h e c o l l e c t e d g u i d e l i n e ( s ) i n c o m p a c t f o r m . F i n a l l y , s o m e c o m m e n t s a r e o f t e n
o f f e r e d ( t h o u g h n o t i n t h i s c a s e ) o n h o w t h e g u i d e l i n e ( s ) m i g h t b e a p p l i e d i n w i d e r o r
d i f f e r e n t c o n t e x t s . T h e g u i d e l i n e s t h e m s e l v e s a r e l i s t e d s e p a r a t e l y , r e f e r e n c e d t o t h e
C h a p t e r ( o f G a r d i n e r & C h r i s t i e 1 9 8 7 ) f r o m w h i c h t h e y d e r i v e .
U n l i k e m o s t g u i d e l i n e s , w h i c h w o u l d a t b e s t i n c l u d e o n l y t h e l a s t t w o p a r t s o f t h i s e x a m p l e ,
s u c h a f o r m a t a l l o w s t h e d e s i g n e r o r e v a l u a t o r t o e x t r a c t b o t h a n u n d e r l y i n g p r i n c i p l e - i n t h i s
c a s e f a u l t y g e n e r a l i s a t i o n c . f . i t s c o n v e r s e , o v e r g e n e r a l i s a t i o n ( t h e m o d e c a p t u r e e r r o r ) - a n d
t o s e e h o w t h a t p r i n c i p l e m i g h t a p p l y i n a f a m i l i a r e x a m p l e . W h i l e w e m i g h t w i s h t h e
p r i n c i p l e ( s ) t e r m i n o l o g y t o b e a l i t t l e l e s s c r y p t i c - t h e u s e o f s c o r i n g a n d d o m i n a n t
f u n c t i o n a l c h a r a c t e r i s t i c s f o r e x a m p l e - w e c a n s e e h o w t h e f o r m a t c a n b e e x t e n d e d t o t h e
o t h e r 1 3 c a t e g o r i e s ( o r d i m e n s i o n s ) i n t h e M a r s h a l l e t a l . ( 1 9 8 7 ) c o l l e c t i o n . M a n y o f t h e s e
c a t e g o r i e s f e a t u r e i n t h e a u t h o r s o w n s e t o f 3 0 p r i n c i p l e s , w h i c h w i l l b e d e s c r i b e d s h o r t l y .
I n t h e a u t h o r s v i e w , t h e c o n t e n t o f t h e a b o v e e x a m p l e f r o m M a r s h a l l e t a l . ( 1 9 8 7 ) i s s u f f i c i e n t
w i t h o u t m o s t o f t h e s e v e n ( o f t h e 1 5 6 i n G a r d i n e r & C h r i s t i e 1 9 8 7 ) a t t e n d a n t g u i d e l i n e s
w h i c h t h e s e a u t h o r s s e p a r a t e l y d e r i v e d ( t h e a b o v e s a m p l e i s i n t e n d e d t o i l l u s t r a t e j u s t t w o
o f t h e s e v e n ) . H o w e v e r , t h e a u t h o r w o u l d a p p e n d t o t h e a b o v e p a i r g u i d e l i n e s 1 1 6 a n d 1 2 1
t o 1 2 2 ( M a r s h a l l e t a l . 1 9 8 7 p 2 6 7 ) :
- - A l l p r o c e d u r e s a n d c o m p o n e n t e l e m e n t s i n a d i a l o g u e s h o u l d h a v e c o n s i s t e n t p r o p e r t i e s , n a m e s
a n d r e l a t i o n s h i p s w i t h o t h e r e l e m e n t s ; a n d b e u s e d c o n s i s t e n t l y t h r o u g h o u t t h e d i a l o g u e .
- - W h e n c o n s i s t e n c y i s n o t p o s s i b l e t h r o u g h o u t t h e i n t e r f a c e b e c o n s i s t e n t w i t h i n t h e i m m e d i a t e
d o m a i n ( f o r i n s t a n c e , t a s k , a p p l i c a t i o n , e t c . ) .
- - I f a n a c t i o n o r p r o c e d u r e h a s t o b e u s e d i n c o n s i s t e n t l y , t h e u s e r s h o u l d b e w a r n e d o f t h e
i n c o n s i s t e n c y o f t h e s i t u a t i o n s w h e r e i t h o l d s .
t h u s m a k i n g a s e t o f f i v e i n t h i s c a t e g o r y . I t w i l l b e c l e a r i n t h e n e x t S e c t i o n t h a t t h e a u t h o r s
o w n C o n s i s t e n c y g u i d e l i n e ( o r p r i n c i p l e ) d e r i v e s f r o m s u c h a s e t .
I n t r o d u c t i o n
2 7
3 . 3 T h e A u t h o r s P r i n c i p l e s S e t
S e e A p p e n d i x e s B t o D f o r t r a n s c r i p t s o f t h e f u l l a n d a b r i d g e d v e r s i o n s u s e d i n E x p e r i m e n t s
1 t o 3 .
T h e a u t h o r s o w n p r i n c i p l e s s e t d e r i v e s i t s i n s p i r a t i o n f r o m M a r s h a l l e t a l . ( 1 9 8 7 ) , b u t u s e s a
s l i g h t l y d i f f e r e n t f o r m a t . T h i s i s a n a d a p t e d v e r s i o n o f t h a t c r e a t e d b y S m i t h & M o s i e r ( 1 9 8 6 ,
o r i g i n a l l y 1 9 8 4 ) i n t h e i r w i d e l y q u o t e d b u t l i t t l e s e e n
1
g u i d e l i n e s c o l l e c t i o n .
T h e f u l l f o r m a t
2
o f t h e S m i t h & M o s i e r ( 1 9 8 6 ) g u i d e l i n e s i s i l l u s t r a t e d b y t h e e x a m p l e i n
F i g u r e 1 . 2 . I t i s s i m i l a r t o t h a t u s e d b y M a r s h a l l e t a l . ( 1 9 8 7 ) , b u t i n c l u d e s e x c e p t i o n s a n d

1
T h e a u t h o r h a s n o t s e e n a p a p e r c o p y e i t h e r .
2
N o t a l l o f t h e 9 4 4 g u i d e l i n e s o f f e r e v e r y p a r t o f t h i s f o r m a t .
7 . C o n s i s t e n c y
C o n s i s t e n c y i s f u n d a m e n t a l t o e f f e c t i v e i n t e r f a c e d e s i g n . I t c o n t r i b u t e s t o u s a b i l i t y i n a n u m b e r o f
w a y s . F o r e x a m p l e , i t f a c i l i t a t e s l e a r n i n g , l e s s e n s t h e n u m b e r o f e r r o r s m a d e a n d h e l p s t h e u s e r t o
d e v e l o p a n a c c u r a t e s y s t e m m o d e l . I t i s r a r e l y p o s s i b l e t o b e c o m p l e t e l y c o n s i s t e n t w i t h i n a n d
b e t w e e n t h e a p p l i c a t i o n s o f a s y s t e m . S o t h e d e s i g n e r w i l l o f t e n h a v e t o d e t e r m i n e t h e p r i o r i t i e s o f t h e
s y s t e m a n d m a k e t r a d e o f f s a c c o r d i n g l y . F o r e x a m p l e , s h o u l d t h e d e s i g n e r b e r i g i d l y c o n s i s t e n t i f t h e
r e s u l t i s a s l o w a n d i n a p p r o p r i a t e p r o c e d u r e w h e n a n d a n i n c o n s i s t e n t p r o c e d u r e w o u l d a c h i e v e t h e
g o a l m o r e e f f i c i e n t l y ? T h e d e c i s i o n h a s t o b e m a d e b a s e d o n t h e f u n c t i o n o f t h e s y s t e m a n d u s e r s f o r
w h o m i t i s i n t e n d e d .
T h e g u i d e l i n e s i n t h i s c a t e g o r y e m p h a s i s e t h e i m p o r t a n c e o f c o n s i s t e n c y i n c e r t a i n d o m a i n s , a n d
i d e n t i f y a r e a s w h e r e t r a d e o f f s c o u l d b e m a d e : f o r e x a m p l e , i t i s s u g g e s t e d t h a t c o n s i s t e n c y w i t h i n a n
a p p l i c a t i o n s h o u l d t a k e p r i o r i t y o v e r c o n s i s t e n c y b e t w e e n a p p l i c a t i o n s .
S a m p l e
P r i n c i p l e ( s )
- - I f t h e s c o r i n g b e t w e e n a s y s t e m s d o m i n a n t f u n c t i o n a l c h a r a c t e r i s t i c s a n d t h o s e o f o t h e r
s y s t e m s i s l o w , t h e n t h e p r o b a b i l i t y o f t h e u s e r m a k i n g t h e c o r r e c t a s s u m p t i o n s a b o u t t h e
d o m i n a n t f u n c t i o n a l c h a r a c t e r i s t i c s o f e a c h o f t h e m a j o r f e a t u r e s a n d o p e r a t i o n s o f t h e s y s t e m
w i l l b e r e d u c e d .
- - I f t h e p r o b a b i l i t y o f t h e u s e r m a k i n g t h e c o r r e c t a s s u m p t i o n s a b o u t t h e d o m i n a n t f u n c t i o n a l
c h a r a c t e r i s t i c s o f e a c h o f a s y s t e m s m a j o r f e a t u r e s a n d o p e r a t i o n s i s l o w , t h e n t h e p r o b a b i l i t y o f
c a p t u r e w i l l b e i n c r e a s e d .
I n t e r p r e t a t i o n
I f t h e r e a r e l a r g e i n c o n s i s t e n c i e s b e t w e e n t h e d i f f e r e n t m o d e s , a p p l i c a t i o n p r o g r a m m e s o r
v e r s i o n s o f a s y s t e m , t h e n t h e u s e r s a b i l i t y t o g e n e r a l i z e f r o m o n e t o a n o t h e r i s r e d u c e d . I f
u s e r s a s s u m e t h a t s y s t e m a s p e c t s a r e s i m i l a r , t h e y w i l l b e p r o n e t o c a p t u r e , t h a t i s , e r r o r s i n
w h i c h t h e y o v e r g e n e r a l i z e a n d a s s u m e t h a t a c t i o n s t a k e n i n o n e s y s t e m m o d e w i l l h a v e t h e s a m e
e f f e c t i n o t h e r , r e l a t e d , s y s t e m m o d e s .
E x a m p l e ( s )
I f m o s t o f t h e s y s t e m s i n t h e o f f i c e m a r k e t e m p l o y t h e d e s k t o p m e t a p h o r a n d a n a p p a r e n t l y
s i m i l a r i n t e r f a c e i s i n t r o d u c e d i n a n o t h e r p r o d u c t o r c o n t e x t , b u t t h i s i n t e r f a c e c o n t a i n s d i f f e r e n t
t y p e s o f c o m m a n d a n d c o n s e q u e n c e s o f t h o s e c o m m a n d s , a n d d i f f e r e n t r e l a t i o n s h i p s b e t w e e n
e l e m e n t s i n t h e i n t e r f a c e , t h e n u s e r s w i l l f i n d i t p a r t i c u l a r l y d i f f i c u l t t o u s e a n d l e a r n . ( P o s s i b l y
b e c a u s e t h e y h a v e d i f f e r e n t s t o r e d k n o w l e d g e f o r w h a t d e s k t o p s y s t e m s a r e a l l a b o u t a n d t h e
n e w i n t e r f a c e b r e a k s a l l o f t h e r u l e s s t o r e d w i t h s u c h k n o w l e d g e . )
G u i d e l i n e ( s )
- - I f t h e i n t e n d e d i n t e r f a c e i s f u n c t i o n a l l y d i f f e r e n t f r o m t h e o t h e r e x t a n t i n t e r f a c e s m a k e i t l o o k
d i f f e r e n t .
- - W i t h i n t h e s a m e s y s t e m , e n s u r e t h a t d i f f e r e n t m o d e s , a p p l i c a t i o n p a c k a g e s o r v e r s i o n s e i t h e r
s h a r e c o m m o n o p e r a t i o n a l a t t r i b u t e s o r t h a t t h e y l o o k s u f f i c i e n t l y d i f f e r e n t f r o m o n e a n o t h e r t h a t
u s e r s w i l l n o t b e t e m p t e d t o o v e r g e n e r a l i z e .
F i g u r e 1 . 1 . T h e s e n s i t i v e d i m e n s i o n o f C o n s i s t e n c y ( M a r s h a l l e t a l . 1 9 8 7 p p 2 3 8 - 2 3 9 ) .
C h a p t e r 1
2 8
s o u r c e c i t a t i o n s . I t a l s o i n c l u d e s a S e e a l s o ( r e f e r e n c e t o r e l a t e d g u i d e l i n e s ) . T h e S m i t h &
M o s i e r g u i d e l i n e s w e r e p r e p a r e d b y t h e M I T R E C o r p o r a t i o n a n d s p o n s o r e d b y t h e U n i t e d
S t a t e s A i r F o r c e . T h e y c o m p r i s e a t o t a l o f 9 4 4 g u i d e l i n e s , c o v e r i n g s i x m a i n c a t e g o r i e s ,
n a m e l y D a t a E n t r y , D a t a D i s p l a y , S e q u e n c e C o n t r o l , U s e r G u i d a n c e , D a t a T r a n s m i s s i o n a n d
D a t a P r o t e c t i o n ( f r o m h y p e r S A M - I a n n e l l a 1 9 9 5 ) . T h o u g h w r i t t e n f o r 1 9 8 0 s g e n e r a t i o n
i n t e r f a c e s ( t h u s m a i n l y c o m m a n d - l i n e a n d m e n u - b a s e d ) , t h e s c o p e o f t h e c o l l e c t i o n
e n c o m p a s s e s a r a n g e o f d i a l o g u e t y p e s i n c l u d i n g n a t u r a l l a n g u a g e a n d g r a p h i c i n t e r a c t i o n
( i c o n s , d i r e c t m a n i p u l a t i o n , a n d c o n t r o l o p t i o n s ) . T h e a c c o m p a n y i n g m a t e r i a l i s e x p l i c i t
c o n c e r n i n g t h e n e e d f o r t h e t a i l o r i n g a n d p r i o r i t i s i n g o f t h e c o n t e n t , a n d i n s t a t i n g t h a t
g u i d e l i n e s c a n n o t t a k e t h e p l a c e o f e x p e r i e n c e . I t a l s o m a k e s i t c l e a r t h a t t h e i n t e r p r e t a t i o n
o f a n y g u i d e l i n e i n v o l v e s c o n s i d e r a t i o n o f e x c e p t i o n s a n d t r a d e - o f f s . T h e S m i t h & M o s i e r
f o r m a t i s c l o s e t o w h a t S u t c l i f f e ( 1 9 9 5 , p p 8 - 9 ) c a l l e d a n e n g i n e e r i n g p r i n c i p l e - o n e w h i c h
d r a w s o n a n a p p l i e d s c i e n c e s u c h a s c o g n i t i v e p s y c h o l o g y b u t w h i c h i n c l u d e s s c o p i n g
r u l e s a n d c a v e a t s t o g e n e r a l i s a t i o n .
T h e a u t h o r s f u l l p r i n c i p l e s s e t c u r r e n t l y t o t a l s 3 0 s u b - p r i n c i p l e s ( d u b b e d a t t r i b u t e s ) ,
o r g a n i s e d i n t o s e v e n m a i n c a t e g o r i e s o r s e t s ( o r i g i n a l l y b a s e d o n e a r l i e r w o r k o n a u s a b i l i t y
a u d i t ) . T h e c o n t e n t s a r e s h o w n i n F i g u r e 1 . 3 . E a c h s e t h a s o n e o r m o r e p r i n c i p l e , b u t n o t a l l
p r i n c i p l e s h a v e m o r e t h a n o n e a t t r i b u t e ( i n s u c h c a s e s t h e a t t r i b u t e n a m e i s t h e s a m e a s t h e
2 D A T A D I S P L A Y
2 . 5 F o r m a t
2 . 5 / 1 C o n s i s t e n t F o r m a t
S t a t e m e n t
A d o p t a c o n s i s t e n t o r g a n i z a t i o n f o r t h e l o c a t i o n o f v a r i o u s d i s p l a y f e a t u r e s f r o m o n e d i s p l a y t o
a n o t h e r .
C o m m e n t
T h e o b j e c t i v e i s t o d e v e l o p d i s p l a y f o r m a t s t h a t a r e c o n s i s t e n t w i t h a c c e p t e d u s a g e a n d e x i s t i n g u s e r
h a b i t s . C o n s i s t e n t d i s p l a y f o r m a t s w i l l h e l p e s t a b l i s h a n d p r e s e r v e u s e r o r i e n t a t i o n . T h e r e i s n o f i x e d
d i s p l a y f o r m a t t h a t i s o p t i m u m f o r a l l d a t a h a n d l i n g a p p l i c a t i o n s , s i n c e a p p l i c a t i o n s w i l l v a r y i n t h e i r
r e q u i r e m e n t s . H o w e v e r , o n c e a s u i t a b l e f o r m a t h a s b e e n d e v i s e d , i t s h o u l d b e m a i n t a i n e d a s a
p a t t e r n t o e n s u r e c o n s i s t e n t d e s i g n o f o t h e r d i s p l a y s .
E x c e p t i o n
I t m i g h t b e d e s i r a b l e t o c h a n g e d i s p l a y f o r m a t s i n s o m e d i s t i n c t i v e w a y t o h e l p a u s e r d i s t i n g u i s h o n e
t a s k o r a c t i v i t y f r o m a n o t h e r , b u t t h e d i s p l a y s o f a n y p a r t i c u l a r t y p e s h o u l d s t i l l b e f o r m a t t e d
c o n s i s t e n t l y a m o n g t h e m s e l v e s .
E x a m p l e
O n e l o c a t i o n m i g h t b e u s e d c o n s i s t e n t l y f o r a d i s p l a y t i t l e , a n o t h e r a r e a m i g h t b e r e s e r v e d f o r d a t a
o u t p u t b y t h e c o m p u t e r , a n d o t h e r a r e a s d e d i c a t e d t o d i s p l a y o f c o n t r o l o p t i o n s , i n s t r u c t i o n s , e r r o r
m e s s a g e s , a n d u s e r c o m m a n d e n t r y .
R e f e r e n c e
B r o w n e t a l . 1 9 8 3 1 . 1 1 . 8 . 5
E n g e l G r a n d a 1 9 7 5 2 . 2 . 5 2 . 3 2 . 3 . 3
M I L - S T D - 1 4 7 2 C 1 9 8 3 5 . 1 5 . 3 . 2 . 1 5 . 1 5 . 3 . 3 . 4
F o l e y V a n D a m 1 9 8 2
S t e w a r t 1 9 8 0
S e e a l s o : 4 . 0 / 6 C o n s i s t e n t D i s p l a y F o r m a t
F i g u r e 1 . 2 . G u i d e l i n e 2 . 5 / 1 , C o n s i s t e n t F o r m a t , o f S m i t h & M o s i e r ( 1 9 8 6 ) ( i n h y p e r S a m - I a n n e l l a
1 9 9 5 ; a l s o r e p r o d u c e d i n S m i t h 1 9 8 6 ) .
I n t r o d u c t i o n
2 9
p r i n c i p l e n a m e ) . T h u s p r i n c i p l e R e q u i r e m e n t s M a t c h h a s t w o a t t r i b u t e s ( s u b - p r i n c i p l e s ) ,
n a m e l y F u n c t i o n a l N e e d s ( n o . 1 ) a n d R e q u i r e m e n t s N e e d s ( n o . 2 ) , w h i l e p r i n c i p l e E r r o r
M a n a g e m e n t ( n o . 8 ) a s y e t h a s n o a t t r i b u t e s .
T h e s c o p e o f t h e f u l l s e t i s s i m i l a r t o b u t w i d e r t h a n t h a t d e v e l o p e d b y B a s t i e n a n d S c a p i n ,
d i s c u s s e d i n S e c t i o n 4 . 3 . T h e s t r u c t u r e ( o r i g i n a l l y b a s e d o n e a r l i e r w o r k o n a u s a b i l i t y a u d i t )
h a s a n d w i l l c o n t i n u e t o e v o l v e a s n e w c o n t e n t i s i n c o r p o r a t e d . I t i s o n l y o n e o f m a n y
p o s s i b l e o r g a n i s a t i o n s , o f w h i c h B a s t i e n s & S c a p i n s i s a n a l t e r n a t i v e .
T h e f o r m a t o f e a c h a t t r i b u t e i s i l l u s t r a t e d i n F i g u r e 1 . 4 , C o n s i s t e n c y ( n o . 2 1 ) . ( S e e A p p e n d i x
D f o r t h e f u l l s e t . ) E x p l a n a t i o n s a r e c o u c h e d a s f a r a s p o s s i b l e i n d o m a i n - i n d e p e n d e n t t e r m s
( e . g . c o m p o n e n t s , s t a t e s ) , b u t w i t h o u t r e s o r t i n g t o t h e f u l l M a r s h a l l e t a l . ( 1 9 8 7 )
t r e a t m e n t : t h u s j a r g o n i s u s u a l l y r e l e g a t e d t o t h e C o m m e n t s , w h i l e E x a m p l e ( s ) f l e s h o u t t h e
R e q u i r e m e n t s a n d F u n c t i o n a l i t y P r i n c i p l e s
P r i n c i p l e : R e q u i r e m e n t s M a t c h
A t t r i b u t e : F u n c t i o n a l N e e d s [ 1 ]
A t t r i b u t e : R e q u i r e m e n t s N e e d s [ 2 ]
P r i n c i p l e : F u n c t i o n a l U t i l i t y
A t t r i b u t e : F u n c t i o n a l O r g a n i s a t i o n [ 3 ]
A t t r i b u t e : F u n c t i o n a l P r o v i s i o n [ 4 ]
U s e r - S y s t e m P r i n c i p l e s
P r i n c i p l e : N a v i g a t i o n a l E f f o r t
A t t r i b u t e : M i n i m u m S t e p s [ 5 ]
A t t r i b u t e : M i n i m u m R e t r a c t i o n [ 6 ]
P r i n c i p l e : M e m o r y L o a d [ 7 ]
P r i n c i p l e : E r r o r M a n a g e m e n t [ 8 ]
P r i n c i p l e : F e e d b a c k [ 9 ]
P r i n c i p l e : L o c a t i o n a n d N a v i g a t i o n
A t t r i b u t e : L o c a t i o n a l I n f o r m a t i o n [ 1 0 ]
A t t r i b u t e : L o c a t i o n a l M o d e s [ 1 1 ]
P r i n c i p l e : C h o i c e A v a i l a b i l i t y [ 1 2 ]
P r i n c i p l e : U s e r M a t c h
A t t r i b u t e : T e r m i n o l o g y a n d L a n g u a g e S t y l e [ 1 3 ]
A t t r i b u t e : V i s u a l M e t a p h o r [ 1 4 ]
U s e r P r i n c i p l e s
P r i n c i p l e : M o d i f i a b i l i t y
A t t r i b u t e : F u n c t i o n a l M o d i f i c a t i o n [ 1 5 ]
A t t r i b u t e : S t e p M o d i f i c a t i o n [ 1 6 ]
P r i n c i p l e : F l e x i b i l i t y
A t t r i b u t e : M u l t i p l e I n i t i a t i o n [ 1 7 ]
A t t r i b u t e : M u l t i p l e I n p u t s [ 1 8 ]
P r i n c i p l e : A c c u r a c y o f C o n t e n t [ 1 9 ]
P r i n c i p l e : S a l i e n c e [ 2 0 ]
C o m p a r a t i v e P r i n c i p l e s
P r i n c i p l e : C o n s i s t e n c y [ 2 1 ]
S y s t e m P e r f o r m a n c e P r i n c i p l e s
P r i n c i p l e : M a n i p u l a b i l i t y [ 2 2 ]
P r i n c i p l e : R e s p o n s i v e n e s s [ 2 3 ]
P e r c e p t u a l a n d M o t o r P r i n c i p l e s
P r i n c i p l e : V i s i o - P e r c e p t u a l L o a d [ 2 4 ]
P r i n c i p l e : A u d i o - P e r c e p t u a l L o a d [ 2 5 ]
P r i n c i p l e : M o t o r L o a d [ 2 6 ]
P r i n c i p l e : P e r c e p t u a l C l a r i t y [ 2 7 ]
P r i n c i p l e : P e r c e p t u a l C o n t r a s t [ 2 8 ]
U s e r S u p p o r t P r i n c i p l e s
P r i n c i p l e : G e n e r a l H e l p [ 2 9 ]
P r i n c i p l e : C o n t e x t - S e n s i t i v e H e l p [ 3 0 ]
F i g u r e 1 . 3 . T h e c o n t e n t s o f t h e a u t h o r s p r i n c i p l e s s e t . N u m b e r s r e f e r t o s u b - p r i n c i p l e s o r
a t t r i b u t e s .
C h a p t e r 1
3 0
t e r m i n o l o g y . E x c e p t i o n ( s ) a r e a s c o m p l e t e a s c o n s i d e r e d n e c e s s a r y . R e l a t e d t o o r a f f e c t s
r e f e r s t o o t h e r a t t r i b u t e s . C i t e d s o u r c e s a r e d e s c r i b e d b e l o w a n d i n c l u d e d i n t h e
R e f e r e n c e s t o t h e t h e s i s .
T h e t h r e e m a i n e x p e r i m e n t s r e p o r t e d i n C h a p t e r s 2 t o 5 m a k e u s e o f d i f f e r e n t v e r s i o n s
a n d / o r s u b s e t s o f t h e f u l l p r i n c i p l e s s e t . ( S e e A p p e n d i x e s B t o D f o r t r a n s c r i p t s . )
E x p e r i m e n t 1 ( C h a p t e r 2 ) u s e s a t h r e e - p a g e v e r s i o n ( a s t h e n d e v e l o p e d ) c o v e r i n g 2 6
p r i n c i p l e s b u t t h e s a m e s e v e n c a t e g o r i e s a s s h o w n i n F i g u r e 1 . 3 . I n t h i s v e r s i o n e a c h
A t t r i b u t e C O N S I S T E N C Y N o : 2 1
P r i n c i p l e C o n s i s t e n c y
S e t C o m p a r a t i v e p r i n c i p l e s
E x p l a n a t i o n T h e s t e p s r e q u i r e d t o c o m p l e t e a n y o n e o p e r a t i o n s h o u l d b e c o n s i s t e n t . M o v e m e n t
b e t w e e n c o m p o n e n t s s h o u l d a l s o o p e r a t e c o n s i s t e n t l y , s u c h t h a t t h e u s e r s h o u l d b e
a b l e t o p r e d i c t w h a t t h e r e s u l t o f a p a r t i c u l a r m o v e m e n t w i l l b e . T h e l a y o u t a n y o n e
c o m p o n e n t o r s t a t e s h o u l d n o t d i f f e r a c c o r d i n g t o t h e t y p e o f o p e r a t i o n b e i n g
p e r f o r m e d . T h u s t h e r a n g e o f o p t i o n s a v a i l a b l e f r o m a n y o n e s t a t e s h o u l d n o t
c h a n g e , n o r s h o u l d t h e r e l a t i o n s h i p b e t w e e n d i f f e r e n t c o m p o n e n t s a n d s u b -
c o m p o n e n t s .
T e r m i n o l o g y a n d l a n g u a g e s t y l e s h o u l d r e m a i n c o n s i s t e n t a c r o s s c o m p o n e n t s a n d
s t a t e s , a s s h o u l d t h e f o r m a t o f i n f o r m a t i o n a l c o n t e n t o f t h e s a m e t y p e . A l l m e s s a g e s
a n d f e e d b a c k s h o u l d b e c o n s i s t e n t i n s t y l e a n d f o r m a t . A l l s a l i e n t ( e x c e p t i o n a l o r
i m p o r t a n t ) c o n t e n t s h o u l d b e c o n s i s t e n t l y e m p h a s i s e d .
E x a m p l e ( s ) T h e u s e r a c t i o n s n e c e s s a r y t o p e r f o r m a p a r t i c u l a r o p e r a t i o n ( e . g . s a v e f i l e w i t h a n e w
n a m e , d e l e t e f i l e ) s h o u l d n o t d i f f e r a c c o r d i n g t o t h e s t a g e r e a c h e d i n i n t e r a c t i o n , o r
u n d e r a r b i t r a r y c o n d i t i o n s . O n c e t h e u s e r h a s l e a r n e d h o w t o m o v e b e t w e e n
c o m p o n e n t s , s u c h a s b e t w e e n w o r k s h e e t a n d h e l p i n f o r m a t i o n , t h e n a t u r e o f t h a t
m o v e m e n t s h o u l d n o t c h a n g e w i t h o u t r e a s o n . T h o u g h i t m a y b e n e c e s s a r y t o e n a b l e
o r d i s a b l e c e r t a i n o p t i o n s w i t h i n a c o m p o n e n t u n d e r p a r t i c u l a r c o n d i t i o n s , t h e l a y o u t
o f e a c h c o m p o n e n t s h o u l d n o t c h a n g e . T h e r e l a t i o n s h i p b e t w e e n c o m p o n e n t s ( i . e .
t h e f u n c t i o n a l o r g a n i s a t i o n o f t h e s y s t e m ) s h o u l d n o t c h a n g e e i t h e r . N a v i g a t i o n
w i t h i n o n l i n e h e l p s h o u l d b e c o n s i s t e n t w i t h t h a t u s e d e l s e w h e r e .
U n l e s s i t i s n e c e s s a r y f o r r e a s o n s o f e m p h a s i s ( s a l i e n c e ) , t e x t l a y o u t a n d f o r m a t t i n g
s h o u l d b e c o n s i s t e n t a c r o s s c o m p o n e n t s , a n d c o n s i s t e n c y o f l a n g u a g e s t y l e s h o u l d
b e m a i n t a i n e d .
E x c e p t i o n ( s ) I n l a r g e r s y s t e m s i t m a y b e p o s s i b l e t o i n i t i a t e o p e r a t i o n s f r o m m o r e t h a n o n e s t a t e o r
c o m p o n e n t . I t m a y a l s o b e p o s s i b l e t o n a v i g a t e a r o u n d t h e s y s t e m i n m o r e t h a n o n e
w a y . I t m a y b e n e c e s s a r y t o e n a b l e o r d i s a b l e c e r t a i n o p t i o n s u n d e r c e r t a i n
c i r c u m s t a n c e s , a n d w h i l e t h e b r o a d l a y o u t o f i n d i v i d u a l c o m p o n e n t s s h o u l d n o t
c h a n g e , a d d i t i o n a l s e t s o f o p t i o n s , o r a c c e s s t o p a r t i c u l a r c o m p o n e n t s , m a y b e c o m e
a v a i l a b l e . T e x t l a y o u t o r f o r m a t m i g h t a l s o b e v a r i e d f o r e m p h a s i s ( s a l i e n c e ) , a s
m i g h t l a n g u a g e s t y l e . W h e r e t h e r e a r e d i f f e r e n t f u n c t i o n a l m o d e s , t h e l a y o u t a n d
a p p e a r a n c e o f e a c h m o d e m i g h t a l s o b e d i f f e r e n t .
R e l a t e d t o
o r a f f e c t s
M u l t i p l e i n i t i a t i o n
S a l i e n c e
S t e p m o d i f i c a t i o n
C h o i c e a v a i l a b i l i t y
E r r o r m a n a g e m e n t
T e r m i n o l o g y & l a n g u a g e s t y l e
C o m m e n t s C o n s i s t e n c y i s t h e m o s t c o m m o n l y f o u n d , a n d e a s i e s t t o a g r e e u p o n , o f a l l u s a b i l i t y
c r i t e r i a . U n f o r t u n a t e l y i t i s a l s o o n e o f t h e m o s t d i f f i c u l t t o d e f i n e p r e c i s e l y . T h e
a b o v e r e p r e s e n t s a n a t t e m p t a t d e s c r i b i n g t h e b r o a d l i m i t s o f t h e p r o b l e m , w i t h
q u a l i f i c a t i o n s w h e r e a p p r o p r i a t e . W h i l e t h e r e a r e s o m e t i m e s g o o d r e a s o n s t o b r e a k
t h i s p r i n c i p l e , f o r e x a m p l e f o r e m p h a s i s , i n g e n e r a l c o n s i s t e n c y i s t o b e a i m e d f o r , a t
l e a s t w i t h i n m o d e s .
S o u r c e ( s ) F o l e y & V a n D a m 1 9 8 2 , W i l l i g e s & W i l l i g e s 1 9 8 4 , G a l i t z 1 9 8 5 , M u r p h y & M i t c h e l l 1 9 8 6 ,
M a r s h a l l e t a l . 1 9 8 7 , B r o w n 1 9 8 8 , T h i m b l e b y 1 9 9 1 , D e n l e y e t a l . 1 9 9 3 , H i x & H a r t s o n
1 9 9 3 , N i e l s e n 1 9 9 3 , S u t c l i f f e 1 9 9 5 , Z e t i e 1 9 9 5 , I S O 9 2 4 1 - 1 0 ( 1 9 9 6 ) , S c a p i n &
B a s t i e n 1 9 9 7 , C o x & W a l k e r 1 9 9 8 , D i x e t a l . 1 9 9 8 , J o r d a n 1 9 9 8 , S h n e i d e r m a n 1 9 9 8 ,
a n d m a n y o t h e r s .
F i g u r e 1 . 4 . A t t r i b u t e ( p r i n c i p l e ) n o . 2 1 , C o n s i s t e n c y , o f t h e a u t h o r s p r i n c i p l e s s e t .
I n t r o d u c t i o n
3 1
p r i n c i p l e c o m p r i s e d j u s t o n e p a r a g r a p h , g e n e r a l l y a s t a t e m e n t o f t h e p r i n c i p l e f o l l o w e d b y
e x a m p l e s . B y E x p e r i m e n t 2 ( C h a p t e r 3 ) t h i s h a d b e e n e x p a n d e d i n t o t h e f u l l v e r s i o n ,
c o v e r i n g 2 3 p r i n c i p l e s a n d 3 0 a t t r i b u t e s , d e s c r i b e d a b o v e ( s o m e o f t h e o r i g i n a l 2 6 p r i n c i p l e s
h a v i n g b e e n m e r g e d a n d o t h e r s s p l i t a p a r t ) . I n E x p e r i m e n t 2 t h e s i z e o f t h i s f u l l v e r s i o n
p r o v e d u n w i e l d y f o r e v a l u a t o r s t o n a v i g a t e ( l i k e s o m e o t h e r g u i d e l i n e c o l l e c t i o n s ) , s o a n
a d d i t i o n a l s u m m a r y , f e a t u r i n g o n l y t h e E x p l a n a t i o n p a r t o f e a c h a t t r i b u t e , w a s p r o v i d e d . I t
m a y n o t c o m e a s a s u r p r i s e t o t h e r e a d e r t o l e a r n t h a t m o s t s u b j e c t s f o u n d t h i s t o b e d i f f i c u l t ,
e v e n w i t h p r i o r t r a i n i n g . F o r t h i s r e a s o n , i n E x p e r i m e n t 3 ( C h a p t e r 5 ) s u b j e c t s w e r e p r o v i d e d
w i t h j u s t t w o a t t r i b u t e s ( n a m e l y C o n s i s t e n c y a n d E r r o r M a n a g e m e n t ) w h i c h w e r e c o n s i d e r e d
r e l e v a n t t o t h e t a s k s t o b e p e r f o r m e d i n t h a t e x p e r i m e n t .
T h e c o n t e n t s o f t h e p r i n c i p l e s s e t d r a w o n m a n y s o u r c e s i n c l u d i n g M a r s h a l l e t a l . ( 1 9 8 7 ) . F o r
t h e m o s t p a r t , t h e s e r e p r e s e n t p r i n c i p l e s c o l l e c t i o n s ( w h e t h e r o r n o t a c t u a l l y c a l l e d
p r i n c i p l e s ) w h i c h c a n b e s a i d t o b e d o m a i n - o r a p p l i c a t i o n - i n d e p e n d e n t a n d w h i c h o f f e r
s o m e u n d e r l y i n g r a t i o n a l e . A v o w e d l y d o m a i n - s p e c i f i c p r i n c i p l e s h a v e b e e n e m p l o y e d
w h e r e s o m e g e n e r a l a p p l i c a t i o n c a n b e d e d u c e d . F o r t h e r e s t , u s e h a s b e e n m a d e o f t h e
g u i d e l i n e s l i t e r a t u r e , i n c l u d i n g S m i t h & M o s i e r ( 1 9 8 6 ) a n d o t h e r s . T h e m a i n s o u r c e s c i t e d
a r e l i s t e d ( i n c h r o n o l o g i c a l o r d e r ) i n F i g u r e 1 . 5 . O t h e r t h a n M a r s h a l l e t a l . ( 1 9 8 7 ) , M u r p h y &
M i t c h e l l ( 1 9 8 6 ) i s m o s t e x p l i c i t i n i t s d r a w i n g o n c o g n i t i v e p s y c h o l o g y . N i e l s e n ( 1 9 9 3 ) , I S O
9 2 4 1 - 1 0 ( 1 9 9 6 ) , S c a p i n & B a s t i e n ( 1 9 9 7 ) a n d S h n e i d e r m a n ( 1 9 9 8 ) w i l l b e d i s c u s s e d b e l o w .
I t w i l l b e a p p a r e n t t h a t t h i s v e r s i o n o f a p r i n c i p l e s s e t i s b y n o m e a n s c o m p l e t e ( f o r e x a m p l e , i t
l a c k s u s e r c o n t r o l
3
) . I t i s a l s o e v i d e n t t h a t m u c h m o r e c o u l d b e i n c l u d e d b y w a y o f
i l l u s t r a t i o n o f t h e e x a m p l e s o f f e r e d . I t i s a c k n o w l e d g e d t h a t f u t u r e s e t ( s ) w i l l h a v e t o b e
t a i l o r e d t o w a r d s p a r t i c u l a r d o m a i n s , f o r e x a m p l e m u l t i m e d i a ( f o r w h i c h J o h n s o n & N e m e t z
1 9 9 8 o f f e r s o m e d i f f e r e n t p r i n c i p l e s ) a n d i n t e r n e t b r o w s e r s ( w h i c h m i g h t d r a w o n R a t n e r e t
a l . 1 9 9 6 a n d T a u s c h e r & G r e e n b e r g 1 9 9 7 ) . T h e d i v e r s i t y o f t h e a l t e r n a t i v e s l i s t e d i n F i g u r e
1 . 5 s u g g e s t s t h a t n o s i n g l e a l l - i n c l u s i v e s e t i s l i k e l y t o e m e r g e . H o w e v e r , i t a p p e a r e d t o b e
r e l a t i v e l y s i m p l e t o d e m o n s t r a t e t h a t a l a r g e r s e t ( s u c h a s t h e a u t h o r s ) w h o s e s c o p e
i n c o r p o r a t e d t h a t o f a s h o r t e r s e t ( s u c h a s N i e l s e n s h e u r i s t i c s , d e s c r i b e d b e l o w ) w o u l d b e
c a p a b l e o f a d d r e s s i n g a w i d e r r a n g e o f i s s u e s t h a n t h e s h o r t e r s e t . E x p e r i m e n t s 1 t o 3
a d d r e s s t h i s p r o p o s i t i o n .

3
T h i s a n d o t h e r p r i n c i p l e s h a v e b e e n i n , a n d o u t , o f e a r l i e r v e r s i o n s : t h e i r a b s e n c e i n d i c a t e s t h a t ( f o r
t h e m o m e n t ) t h e a u t h o r b e l i e v e s t h e m t o b e a c c o u n t e d f o r e l s e w h e r e i n t h e s e t .
C h a p t e r 1
3 2
3 . 4 H e u r i s t i c s
I n t e r f a c e d e s i g n h e u r i s t i c s a t t e m p t t o e n c a p s u l a t e t h e p r i n c i p l e s w h i c h u n d e r p i n g u i d e l i n e s
o r o t h e r m a t e r i a l i n t o s h o r t e r s e t s o f r u l e s o f t h u m b . T h e y a r e m e a n t t o a c c o m p a n y , r a t h e r
t h a n r e p l a c e , t h a t g u i d a n c e m a t e r i a l , w i t h w h i c h , i t i s a s s u m e d , d e s i g n e r s a r e a l r e a d y f a m i l i a r .
I n t h a t s e n s e , h e u r i s t i c s c a n b e c o n s i d e r e d a s p r i n c i p l e s s h o r n o f t h e i r b a c k g r o u n d r a t i o n a l e .
H e u r i s t i c s t h u s r e l y t o a g r e a t e r o r l e s s e r e x t e n t o n t h e a b i l i t y o f d e s i g n e r s t o r e l a t e t h e i r
c o n t e n t s t o t h e l a r g e r m a t e r i a l o n w h i c h t h e y a r e b a s e d .
M a n y o f t h e g u i d e l i n e s c o l l e c t i o n s c i t e d i n F i g u r e 1 . 5 i n c l u d e s u c h a s u m m a r y , w h i c h c o u l d
t h e r e f o r e b e e x t r a c t e d a s h e u r i s t i c s . T h e m o s t w e l l - k n o w n i s S h n e i d e r m a n s ( 1 9 9 8 ,
F o l e y & V a n D a m 1 9 8 2 p p 2 1 7 - 2 4 2 ( s e v e n d e s i g n p r i n c i p l e s f o r i n t e r a c t i v e c o m p u t e r g r a p h i c s : g i v e
f e e d b a c k , h e l p t h e u s e r l e a r n t h e s y s t e m , a l l o w b a c k u p a n d a c c o m m o d a t e e r r o r s , c o n t r o l
r e s p o n s e t i m e , d e s i g n f o r c o n s i s t e n c y , s t r u c t u r e t h e d i s p l a y , m i n i m i z e m e m o r i s a t i o n ) .
W i l l i g e s & W i l l i g e s 1 9 8 4 ( s i x f u n d a m e n t a l d e s i g n p r i n c i p l e s f o r i n t e r a c t i v e c o m p u t e r s y s t e m s -
c o m p a t i b i l i t y , c o n s i s t e n c y , b r e v i t y , f l e x i b i l i t y , i m m e d i a t e f e e d b a c k - p l u s e x t e n s i v e l o w - l e v e l
g u i d e l i n e s ) .
G a l i t z 1 9 8 5 ( 1 1 b r i e f d e s i r a b l e q u a l i t i e s o f a s y s t e m , f o l l o w e d b y a m i x e d c o l l e c t i o n o f g e n e r a l a n d
i n t e r f a c e c o m p o n e n t - s p e c i f i c g u i d e l i n e s , i n c l u d i n g : d e s i g n t r a d e o f f s , f l e x i b i l i t y , i n f o r m a t i o n l o a d ,
r e s p o n s e t i m e ) .
M u r p h y & M i t c h e l l 1 9 8 6 ( 1 8 c o g n i t i v e a t t r i b u t e s f o r h i g h l y a u t o m a t e d c o n t r o l s y s t e m s a n d r e a l - t i m e
d e c i s i o n - m a k i n g e n v i r o n m e n t s , o r g a n i s e d i n t o t h r e e g r o u p s : k n o w l e d g e s t r u c t u r e s i n m e m o r y
( s c h e m a s ) , a c t i v e p r o c e s s i n g , p r o b l e m s o l v i n g ) .
M a r s h a l l e t a l . 1 9 8 7 ( 1 4 s e n s i t i v e d i m e n s i o n s , l i s t e d a b o v e ; t h e f i r s t s o u r c e f o r t h e a u t h o r s
p r i n c i p l e s s e t ) .
B r o w n 1 9 8 8 ( 1 2 g e n e r a l c o n c e p t s u n d e r l y i n g t h e i n t e r f a c e c o m p o n e n t - s p e c i f i c g u i d e l i n e s w h i c h
f o l l o w , i n c l u d i n g : a l l o c a t i o n o f f u n c t i o n s , c o n s i s t e n c y , p h y s i c a l a n a l o g i e s , s t i m u l u s - r e s p o n s e
c o m p a t i b i l i t y , p r o v i d i n g m u l t i p l e p a t h s ) .
N o r m a n 1 9 8 8 p p 8 - 1 8 ( t h e f u n d a m e n t a l p r i n c i p l e s f o r d e s i g n i n g f o r p e o p l e - p r o v i d i n g g o o d
c o n c e p t u a l m o d e l s a n d v i s i b i l i t y - p l u s a f f o r d a n c e , m a p p i n g , f e e d b a c k ) .
T h i m b l e b y 1 9 9 1 ( 2 4 d e s i g n c h o i c e s a n d p r i n c i p l e s f o r i n t e r a c t i v e s y s t e m s , i n c l u d i n g : c o n s i s t e n c y ,
d i s p l a y i n e r t i a , m o d e s , m i n i m i s i n g t h e u s e r s m e m o r y l o a d ) .
D e n l e y e t a l . 1 9 9 3 ( 1 2 c l a s s e s o f g e n e r i c p r i n c i p l e s f o r i n t e g r a t e d b r o a d b a n d c o m m u n i c a t i o n
s y s t e m s , i n c l u d i n g : c o m p a t i b i l i t y , c o h e r e n c e , s i m p l i c i t y , s a l i e n c e , r e v e r s i b i l i t y , c o n t r o l l a b i l i t y ,
f l e x i b i l i t y , f e e d b a c k , s u p p o r t o r i e n t a t i o n ) .
H i x & H a r t s o n 1 9 9 3 p p 2 7 - 5 5 ( 2 6 i n t e r f a c e g u i d e l i n e s t o e n s u r e u s a b i l i t y , i n c l u d i n g : k e e p t h e l o c u s o f
c o n t r o l w i t h t h e u s e r , u s e m o d e s c a u t i o u s l y , m a k e u s e r a c t i o n s e a s i l y r e v e r s i b l e ) .
N i e l s e n 1 9 9 3 p p 1 1 5 - 1 6 3 ( t h e 1 0 u s a b i l i t y h e u r i s t i c s , d e s c r i b e d i n f u l l b e l o w , w h i c h a r e c o m p a r e d i n
t h i s t h e s i s w i t h t h e a u t h o r s p r i n c i p l e s s e t ) .
S u t c l i f f e 1 9 9 5 ( s e v e n b a s i c p r i n c i p l e s f o r H C I d e s i g n - c o n s i s t e n c y , c o m p a t i b i l i t y , p r e d i c t a b i l i t y ,
a d a p t a b i l i t y , e c o n o m y a n d e r r o r p r e v e n t i o n , u s e r c o n t r o l , s t r u c t u r e , p l u s t h r e e b a s i c c o n c e r n s
o f d e s i g n q u a l i t y a n d e i g h t p r i n c i p l e s o f d i a l o g u e d e s i g n ) .
Z e t i e 1 9 9 5 ( f u n d a m e n t a l p r i n c i p l e s f o r G U I d e s i g n - v i s i b i l i t y , f e e d b a c k , m a p p i n g s , c u e s a n d
a f f o r d a n c e , t h e b u r d e n o f i n t e r p r e t a t i o n , i n p u t a n d o u t p u t g a p s , c l o s u r e , d e g r e e s o f f r e e d o m ,
m o d e s - p l u s 1 0 c o g n i t i v e p r i n c i p l e s ; a l s o m u l t i - d o c u m e n t i n t e r f a c e ( w i n d o w i n g ) p r i n c i p l e s ) .
I S O 9 2 4 1 - 1 0 ( 1 9 9 6 ) ( s e v e n h i g h - l e v e l d i a l o g u e p r i n c i p l e s : s u i t a b i l i t y f o r t h e t a s k , s e l f -
d e s c r i p t i v e n e s s , c o n t r o l l a b i l i t y , c o n f o r m i t y w i t h u s e r e x p e c t a t i o n s , e r r o r t o l e r a n c e , s u i t a b i l i t y f o r
i n d i v i d u a l i s a t i o n , s u i t a b i l i t y f o r l e a r n i n g ) . P a r t 1 0 o f a 1 7 - p a r t s t a n d a r d f o r o f f i c e w o r k w i t h v i s u a l
d i s p l a y t e r m i n a l s .
S c a p i n & B a s t i e n 1 9 9 7 ( e i g h t e r g o n o m i c c r i t e r i a f o r e v a l u a t i n g t h e e r g o n o m i c q u a l i t y o f i n t e r a c t i v e
s y s t e m s - g u i d a n c e , w o r k l o a d , e x p l i c i t c o n t r o l , a d a p t a b i l i t y , e r r o r m a n a g e m e n t , c o n s i s t e n c y ,
s i g n i f i c a n c e o f c o d e s , c o m p a t i b i l i t y - a n d 1 3 s u b - c r i t e r i a ) .
C o x & W a l k e r 1 9 9 8 p p 1 7 4 - 1 8 7 ( 2 0 g e n e r a l p r i n c i p l e s f o r u s e r i n t e r f a c e d e s i g n , i n c l u d i n g :
c o n s i s t e n c y , c l o s u r e , e a s y r e v e r s a l ) .
D i x e t a l . 1 9 9 8 p p 1 6 2 - 1 7 5 ( t h r e e p r i n c i p l e s t o s u p p o r t u s a b i l i t y : l e a r n a b i l i t y , f l e x i b i l i t y a n d
r o b u s t n e s s , w i t h 1 4 s u b - p r i n c i p l e s ; p l u s a l a t e r c h a p t e r o n u s e r s u p p o r t ( h e l p ) s y s t e m s ) .
J o r d a n 1 9 9 8 p p 2 5 - 3 8 ( 1 0 p r i n c i p l e s o f u s a b l e d e s i g n - c o n s i s t e n c y , c o m p a t i b i l i t y , c o n s i d e r a t i o n o f
u s e r r e s o u r c e s , f e e d b a c k , e r r o r p r e v e n t i o n a n d r e c o v e r y , u s e r c o n t r o l , v i s u a l c l a r i t y ,
p r i o r i t i s a t i o n o f f u n c t i o n a l i t y a n d i n f o r m a t i o n , a p p r o p r i a t e t r a n s f e r o f t e c h n o l o g y , e x p l i c i t n e s s ) .
S h n e i d e r m a n 1 9 9 8 p p 6 7 - 9 0 ( t h r e e o v e r a l l p r i n c i p l e s - r e c o g n i s e t h e d i v e r s i t y , u s e t h e e i g h t g o l d e n
r u l e s o f i n t e r f a c e d e s i g n ( o u t l i n e d b e l o w ) , p r e v e n t e r r o r s - a n d s u b - p r i n c i p l e s ; p l u s l a t e r
g u i d e l i n e s f o r d a t a d i s p l a y a n d d a t a e n t r y ) .
F i g u r e 1 . 5 . M a i n s o u r c e s c i t e d i n t h e a u t h o r s p r i n c i p l e s s e t .
I n t r o d u c t i o n
3 3
o r i g i n a l l y 1 9 8 7 ) e i g h t g o l d e n r u l e s f o r i n t e r f a c e d e s i g n ( l i s t e d a s P r i n c i p l e 2 i n t h e 1 9 9 8
v e r s i o n ) , n a m e l y : S t r i v e f o r c o n s i s t e n c y , E n a b l e f r e q u e n t u s e r s t o u s e s h o r t c u t s , O f f e r
i n f o r m a t i v e f e e d b a c k , D e s i g n d i a l o g s t o y i e l d c l o s u r e , O f f e r e r r o r p r e v e n t i o n a n d s i m p l e e r r o r
h a n d l i n g , P e r m i t e a s y r e v e r s a l o f a c t i o n s , S u p p o r t i n t e r n a l l o c u s o f c o n t r o l , R e d u c e s h o r t -
t e r m m e m o r y l o a d . E v e n s t y l e g u i d e s s u c h a s M i c r o s o f t s ( 1 9 9 5 ) W i n d o w s

, I B M s ( 1 9 9 2 )
C U A a n d A p p l e s ( 1 9 8 9 ) H y p e r c a r d

g u i d e l i n e s i n c l u d e , r e s p e c t i v e l y , a g u i d e l i n e s
s u m m a r y , g o a l s a n d d e s i g n p r i n c i p l e s , a n d t e n g e n e r a l p r i n c i p l e s w h i c h c o u l d s e r v e t h e
s a m e p u r p o s e . H o w e v e r , S h n e i d e r m a n ( 1 9 8 7 ) a p p e a r e d t o h a v e i n t e n d e d h i s g o l d e n
r u l e s t o s t a n d r e l a t i v e l y a l o n e , s i n c e o n l y s h o r t s e c t i o n s o f t h a t b o o k a r e d e v o t e d t o f u r t h e r
g u i d e l i n e e x p o s i t i o n . S h n e i d e r m a n ( 1 9 9 8 , p 7 4 ) l a t e r d e s c r i b e s t h e r u l e s a s d e r i v e d
h e u r i s t i c a l l y f r o m e x p e r i e n c e .
T h i s o r i g i n s o f N i e l s e n s h e u r i s t i c s , i n a p a p e r b y R o l f M o l i c h a n d N i e l s e n ( 1 9 9 0 )
4
, a p p e a r t o
s u p p o r t t h e v i e w t h a t t h e y a r e d e r i v e d m a i n l y f r o m e x p e r i e n c e . T h e t h e n n i n e h e u r i s t i c s a r e
d e s c r i b e d a s a s h o r t c h e c k l i s t o f u s a b i l i t y c o n s i d e r a t i o n s i n a g o o d d i a l o g u e ( M o l i c h &
N i e l s e n 1 9 9 0 p 3 3 9 ) , a n d , t h o u g h c o r r e s p o n d i n g t o s i m i l a r p r i n c i p l e s d e s c r i b e d b y o t h e r s
[ s u c h a s t h e A p p l e 1 9 8 7 s t y l e g u i d e ] , t h e c h e c k l i s t r e f l e c t s o u r [ M o l i c h s & N i e l s e n s ]
p e r s o n a l e x p e r i e n c e ( b i d . , p 3 3 9 ) . T h e h e u r i s t i c s a r e f i r s t d e s c r i b e d i n s h o r t p a r a g r a p h s o f
n o m o r e t h a n 5 0 w o r d s , c o m p a r a b l e i n f o r m a t t o S h n e i d e r m a n s t e n . O n l y l a t e r , i n N i e l s e n s
( 1 9 9 3 ) b o o k , a r e t h e y f l e s h e d o u t w i t h e x a m p l e s a n d t h e i r o r i g i n s m a d e m o r e e x p l i c i t . B y
1 9 9 4 ( i n N i e l s e n 1 9 9 4 d a n d s e v e r a l o t h e r p a p e r s ) t h e y a n d t h e h e u r i s t i c e v a l u a t i o n m e t h o d
h a d b e c o m e f u l l y f o r m e d .
I t i s n o t c l e a r f r o m N i e l s e n s d e s c r i p t i o n s w h e t h e r t h e h e u r i s t i c s ( a s u s e d i n h e u r i s t i c
e v a l u a t i o n ) a r e r u l e s o r p r i n c i p l e s :
F o r t h e d i s c o u n t [ u s a b i l i t y e n g i n e e r i n g ] m e t h o d I a d v o c a t e c u t t i n g t h e c o m p l e x i t y [ o f
g u i d e l i n e s c o n t a i n i n g t h o u s a n d s o f r u l e s ] b y t w o o r d e r s o f m a g n i t u d e , t o j u s t 1 0 r u l e s ,
r e l y i n g o n a s m a l l s e t o f b r o a d e r h e u r i s t i c s s u c h a s t h e b a s i c u s a b i l i t y p r i n c i p l e s l i s t e d i n
T a b l e 2 [ o f N i e l s e n 1 9 9 3 ] a n d d i s c u s s e d i n C h a p t e r 5 [ o f N i e l s e n 1 9 9 3 ] , U s a b i l i t y
H e u r i s t i c s . ( N i e l s e n 1 9 9 3 p 1 9 , t h e s i s a u t h o r s i t a l i c s . )
D u r i n g t h e [ h e u r i s t i c ] e v a l u a t i o n s e s s i o n , t h e e v a l u a t o r g o e s t h r o u g h t h e i n t e r f a c e
s e v e r a l t i m e s a n d i n s p e c t s t h e v a r i o u s d i a l o g u e e l e m e n t s a n d c o m p a r e s t h e m w i t h a l i s t
o f r e c o g n i s e d u s a b i l i t y p r i n c i p l e s . T h e s e h e u r i s t i c s a r e g e n e r a l r u l e s t h a t s e e m t o
d e s c r i b e c o m m o n p r o p e r t i e s o f u s a b l e i n t e r f a c e s . . . ( N i e l s e n 1 9 9 4 d p 2 8 , t h e s i s
a u t h o r s i t a l i c s . )
S u c h c o n f l a t i o n l e n d s s u p p o r t t o t h e v i e w t h a t t h e h e u r i s t i c s a r e , a f t e r a l l , m e a n t t o s t a n d o n
t h e i r o w n , a s r u l e s , e v e n c h e c k l i s t s , w i t h o u t s u p p o r t i n g p r i n c i p l e s o r o t h e r b a c k g r o u n d
m a t e r i a l . T h e r o l e o f t h i s o t h e r m a t e r i a l , a n d t h e e x t e n t t o w h i c h e v a l u a t o r e x p e r t i s e s h o u l d
c o m p e n s a t e f o r i t s a b s e n c e , r e m a i n s u n c l e a r .
H o w e v e r , t h e s t a t u s o f h e u r i s t i c s a s e v a l u a t i v e c r i t e r i a i s c l e a r , a n d t h a t i s t h e f o r m i n w h i c h
t h e y ( m e a n i n g b o t h N i e l s e n s h e u r i s t i c s a n d t h e a u t h o r s p r i n c i p l e s s e t ) w i l l b e u s e d i n t h i s

4
N i e l s e n s ( 1 9 8 9 ) p a p e r o n d i s c o u n t u s a b i l i t y e n g i n e e r i n g c i t e s w h a t a p p e a r s t o b e a r e v i e w v e r s i o n
o f M o l i c h & N i e l s e n ( 1 9 9 0 ) .
C h a p t e r 1
3 4
t h e s i s . I n t h e e v e n t , E x p e r i m e n t s 1 t o 3 ( C h a p t e r s 2 t o 5 ) d i f f e r e d i n b o t h t h e s i z e a n d s c o p e
o f t h e m a t e r i a l s c o m p a r e d a n d t h e d e g r e e o f t r a i n i n g o f f e r e d i n t h e i r u s e . I n t h a t s e n s e ,
t h e s e e x p e r i m e n t s d i d v a r y t h e a m o u n t o f b a c k g r o u n d m a t e r i a l w h i c h a c c o m p a n i e d t h e
h e u r i s t i c s . H o w e v e r , t h e m e t h o d o f u s e w a s h e l d t h e s a m e w i t h i n e a c h e x p e r i m e n t , t h u s
r e p r e s e n t i n g c o m p a r i s o n s o f m a t e r i a l s r a t h e r t h a n m e t h o d s . T h e i n t e n t i o n o f t h e s e
e x p e r i m e n t s w a s n o t t o c o m p a r e a l t e r n a t i v e e v a l u a t i o n m e t h o d s ( t h o u g h s u c h s t u d i e s w i l l
b e s u m m a r i s e d b e l o w ) . T h e a i m w a s t o a t t e m p t s o m e c l o s u r e o n j u s t o n e p a r t o f a s i n g l e
a p p r o a c h , n a m e l y t h e s i z e a n d s c o p e o f t h e h e u r i s t i c s w h i c h m i g h t b e u s e d i n a
h e u r i s t i c a l l y - b a s e d e v a l u a t i o n .
3 . 5 N i e l s e n s H e u r i s t i c s
E x p e r i m e n t s 1 t o 3 w i l l c o m p a r e t h e a u t h o r s p r i n c i p l e s s e t w i t h N i e l s e n s ( a n d M o l i c h s ) t e n
u s a b i l i t y h e u r i s t i c s , a s d e s c r i b e d i n N i e l s e n ( 1 9 9 3 ) a n d N i e l s e n ( 1 9 9 4 d ) . T h e p r i m a r y s o u r c e
i s t h e s e t o f n i n e h e u r i s t i c s w h i c h a p p e a r e d i n M o l i c h & N i e l s e n ( 1 9 9 0 ) , p l u s t h e t e n t h ,
n a m e l y H e l p a n d D o c u m e n t a t i o n ( N i e l s e n 1 9 9 3 p 2 0 ) , a d d e d i n 1 9 9 1 ( N i e l s e n 1 9 9 4 d p 2 9 ) .
T h i s o r i g i n a l s e t ( s l i g h t l y s h o r t e n e d b u t n o t s u b s t a n t i a l l y c h a n g e d i n t h e 1 9 9 3 a n d 1 9 9 4
v e r s i o n s ) i s r e p r o d u c e d i n F i g u r e 1 . 6 . A p p e n d i x A s h o w s t h e n u m b e r e d t r a n s c r i p t u s e d i n
t h e e x p e r i m e n t s .
T h e M o l i c h & N i e l s e n ( 1 9 9 0 ) v e r s i o n o f t h e h e u r i s t i c s ( p l u s H e l p a n d D o c u m e n t a t i o n ) w a s
c h o s e n b e c a u s e i t i s t h e o n e m o s t o f t e n c i t e d o r u s e d i n s t u d i e s b y i t s o r i g i n a t o r s ( e . g .
N i e l s e n 1 9 8 9 , N i e l s e n 1 9 9 0 c , N i e l s e n 1 9 9 0 e , N i e l s e n & M o l i c h 1 9 9 0 , N i e l s e n 1 9 9 2 ,
N i e l s e n e t a l . 1 9 9 2 , N i e l s e n & P h i l l i p s 1 9 9 3 , M o l i c h 1 9 9 4 ) a n d , d i r e c t l y o r i n d i r e c t l y , b y o t h e r
r e s e a r c h e r s , e . g . J e f f r i e s e t a l . ( 1 9 9 1 ) , B a i l e y e t a l . ( 1 9 9 2 ) , D e s u r v i r e & T h o m a s ( 1 9 9 3 ) , V i r z i
e t a l . ( 1 9 9 3 ) , C u o m o & B o w e n ( 1 9 9 4 ) , D u t t e t a l . ( 1 9 9 4 ) , I a n n e l l a ( 1 9 9 4 ) , K a r a t ( 1 9 9 4 ) , J o h n
& M a r k s ( 1 9 9 7 ) .
N i e l s e n s h e u r i s t i c s w e r e u s e d f o r t w o r e a s o n s . F i r s t , h e u r i s t i c e v a l u a t i o n h a s b e e n a f o c u s
o f m u c h r e s e a r c h ( j u s t s o m e o f w h i c h i s c i t e d a b o v e ) , i n c l u d i n g N i e l s e n s o w n . T h e s e c o n d
r e a s o n i s t h e c l a i m s m a d e f o r t h e h e u r i s t i c s b y t h e i r p r o p o n e n t s . T h e w e a k e r c l a i m s i n c l u d e
t h e f o l l o w i n g .
T h e s e [ b a s i c u s a b i l i t y ] p r i n c i p l e s [ . . . ] c a n b e u s e d t o e x p l a i n a v e r y l a r g e p r o p o r t i o n o f
t h e p r o b l e m s o n e o b s e r v e s i n u s e r i n t e r f a c e d e s i g n s . ( N i e l s e n 1 9 8 9 p 3 9 7 , N i e l s e n 1 9 9 3
p 1 9 )
a n d
T h e s e n i n e p r i n c i p l e s c o r r e s p o n d m o r e o r l e s s t o p r i n c i p l e s w h i c h a r e g e n e r a l l y
r e c o g n i s e d i n t h e u s e r i n t e r f a c e c o m m u n i t y . . . ( N i e l s e n & M o l i c h 1 9 9 0 p 2 5 0 ) .
I n t r o d u c t i o n
3 5
S t r o n g e r c l a i m s i n c l u d e t h e a s s e r t i o n s t h a t
A l m o s t a l l u s a b i l i t y p r o b l e m s f i t w e l l i n t o o n e o f t h e c a t e g o r i e s . ( M o l i c h & N i e l s e n 1 9 9 0
p 3 3 9 )
a n d
T h e s e n i n e u s a b i l i t y p r i n c i p l e s s h o u l d b e f o l l o w e d b y a l l u s e r i n t e r f a c e s . ( N i e l s e n
1 9 9 0 e p 1 1 1 ) .
T h e a u t h o r s o f t h e s e s t a t e m e n t s e l s e w h e r e q u a l i f y t h e m . T h e o r i g i n a l n i n e ( o r t e n )
h e u r i s t i c s a r e m e r e l y s i m i l a r t o o r c o r r e s p o n d t o o t h e r u s a b i l i t y p r i n c i p l e s o r g u i d e l i n e s
( M o l i c h & N i e l s e n 1 9 9 0 , N i e l s e n 1 9 9 0 e , N i e l s e n & M o l i c h 1 9 9 0 , N i e l s e n 1 9 9 3 , 1 9 9 4 d ) .
A d d i t i o n a l r e l e v a n t p r o b l e m s , n o t e l i c i t e d b y t h e h e u r i s t i c s t h e m s e l v e s , m a y o b v i o u s l y b e
c o n s i d e r e d d u r i n g a n e v a l u a t i o n ( N i e l s e n 1 9 9 3 p 1 5 8 , N i e l s e n 1 9 9 4 d p 2 8 ) . F u r t h e r
S i m p l e a n d N a t u r a l D i a l o g u e
D i a l o g u e s s h o u l d n o t c o n t a i n i r r e l e v a n t o r r a r e l y n e e d e d i n f o r m a t i o n . E v e r y e x t r a n e o u s u n i t o f
i n f o r m a t i o n i n a d i a l o g u e c o m p e t e s w i t h t h e r e l e v a n t u n i t s o f i n f o r m a t i o n a n d d i m i n i s h e s t h e i r r e l a t i v e
v i s i b i l i t y . A l l i n f o r m a t i o n s h o u l d a p p e a r i n a n a t u r a l a n d l o g i c a l o r d e r .
S p e a k t h e U s e r ' s L a n g u a g e
T h e d i a l o g u e s h o u l d b e e x p r e s s e d c l e a r l y i n w o r d s , p h r a s e s , a n d c o n c e p t s f a m i l i a r t o t h e u s e r r a t h e r
t h a n i n s y s t e m - o r i e n t e d t e r m s .
M i n i m i z e t h e U s e r ' s M e m o r y L o a d
T h e u s e r ' s s h o r t - t e r m m e m o r y i s l i m i t e d . T h e u s e r s h o u l d n o t h a v e t o r e m e m b e r i n f o r m a t i o n f r o m o n e
p a r t o f t h e d i a l o g u e t o a n o t h e r . I n s t r u c t i o n s f o r u s e o f t h e s y s t e m s h o u l d b e v i s i b l e o r e a s i l y
r e t r i e v a b l e w h e n e v e r a p p r o p r i a t e . C o m p l i c a t e d i n s t r u c t i o n s s h o u l d b e s i m p l i f i e d .
B e C o n s i s t e n t
U s e r s s h o u l d n o t h a v e t o w o n d e r w h e t h e r d i f f e r e n t w o r d s , s i t u a t i o n s o r a c t i o n s m e a n t h e s a m e t h i n g .
A p a r t i c u l a r s y s t e m a c t i o n - w h e n a p p r o p r i a t e - s h o u l d a l w a y s b e a c h i e v a b l e b y o n e p a r t i c u l a r u s e r
a c t i o n . C o n s i s t e n c y a l s o m e a n s c o o r d i n a t i o n b e t w e e n s u b s y s t e m s a n d b e t w e e n m a j o r i n d e p e n d e n t
s y s t e m s w i t h c o m m o n u s e r p o p u l a t i o n s .
P r o v i d e F e e d b a c k
T h e s y s t e m s h o u l d a l w a y s k e e p t h e u s e r i n f o r m e d a b o u t w h a t i s g o i n g o n b y p r o v i d i n g h i m o r h e r w i t h
a p p r o p r i a t e f e e d b a c k w i t h i n r e a s o n a b l e t i m e .
P r o v i d e C l e a r l y M a r k e d E x i t s
A s y s t e m s h o u l d n e v e r c a p t u r e u s e r s i n s i t u a t i o n s t h a t h a v e n o v i s i b l e e s c a p e . U s e r s o f t e n c h o o s e
s y s t e m f u n c t i o n s b y m i s t a k e a n d w i l l n e e d a c l e a r l y m a r k e d " e m e r g e n c y e x i t " t o l e a v e t h e u n w a n t e d
s t a t e w i t h o u t h a v i n g t o g o t h r o u g h a n e x t e n d e d d i a l o g u e .
P r o v i d e S h o r t c u t s
T h e f e a t u r e s t h a t m a k e a s y s t e m e a s y t o l e a r n - s u c h a s v e r b o u s [ v e r b o s e ] d i a l o g u e s a n d f e w e n t r y
f i e l d s o n e a c h d i s p l a y - a r e o f t e n c u m b e r s o m e t o t h e e x p e r i e n c e d u s e r . C l e v e r s h o r t c u t s - u n s e e n b y
t h e n o v i c e u s e r - m a y o f t e n b e i n c l u d e d i n a s y s t e m s u c h t h a t t h e s y s t e m c a t e r s t o b o t h
i n e x p e r i e n c e d a n d e x p e r i e n c e d u s e r s .
P r o v i d e G o o d E r r o r M e s s a g e s
G o o d e r r o r m e s s a g e s a r e d e f e n s i v e , p r e c i s e a n d c o n s t r u c t i v e . D e f e n s i v e e r r o r m e s s a g e s b l a m e t h e
p r o b l e m o n s y s t e m d e f i c i e n c i e s a n d n e v e r c r i t i c i s e t h e u s e r . P r e c i s e e r r o r m e s s a g e s p r o v i d e t h e u s e r
w i t h e x a c t i n f o r m a t i o n a b o u t t h e c a u s e o f t h e p r o b l e m . C o n s t r u c t i v e e r r o r m e s s a g e s p r o v i d e
m e a n i n g f u l s u g g e s t i o n s t o t h e u s e r a b o u t w h a t t o d o n e x t .
E r r o r P r e v e n t i o n
E v e n b e t t e r t h a n g o o d e r r o r m e s s a g e s i s a c a r e f u l d e s i g n t h a t p r e v e n t s a p r o b l e m f r o m o c c u r r i n g i n
t h e f i r s t p l a c e .
H e l p a n d D o c u m e n t a t i o n
E v e n t h o u g h i t i s b e t t e r i f t h e s y s t e m c a n b e u s e d w i t h o u t d o c u m e n t a t i o n , i t m a y b e n e c e s s a r y t o
p r o v i d e h e l p a n d d o c u m e n t a t i o n . A n y s u c h i n f o r m a t i o n s h o u l d b e e a s y t o s e a r c h , f o c u s e d o n t h e
u s e r ' s t a s k , l i s t c o n c r e t e s t e p s t o b e c a r r i e d o u t , a n d n o t b e t o o l a r g e .
F i g u r e 1 . 6 . N i e l s e n s a n d M o l i c h s t e n h e u r i s t i c s , a s a p p e a r e d i n M o l i c h & N i e l s e n ( 1 9 9 0 ) a n d l i s t e d
( w i t h t h e a d d i t i o n o f H e l p a n d D o c u m e n t a t i o n ) i n N i e l s e n ( 1 9 9 3 ) a n d N i e l s e n ( 1 9 9 4 d ) .
C h a p t e r 1
3 6
c a t e g o r y - o r d o m a i n - s p e c i f i c h e u r i s t i c s m i g h t a l s o b e d e v e l o p e d ( N i e l s e n 1 9 9 4 d p 2 9 ) . A n d
t h e r e m a y o f c o u r s e b e b e t t e r o r m o r e i n c l u s i v e v e r s i o n s . T h e f e w a t t e m p t s t o d e v e l o p a n d
t e s t s u c h v e r s i o n s w i l l b e d e s c r i b e d b e l o w .
4 . C o m p a r i s o n o f G u i d e l i n e s , P r i n c i p l e s a n d H e u r i s t i c s
T o t h e a u t h o r s k n o w l e d g e , t h e o n l y t w o a t t e m p t s t o c o m p a r e p r i n c i p l e s o r g u i d e l i n e s w i t h
N i e l s e n s h e u r i s t i c s a r e i n J e f f r i e s e t a l . ( 1 9 9 1 ) a n d C u o m o & B o w e n ( 1 9 9 4 ) . T h e s e w e r e
b o t h b e t w e e n - m e t h o d s t u d i e s w h o s e w i d e r c o n t e x t w i l l b e s u m m a r i s e d i n S e c t i o n 5 . 4 . 1
( a l o n g w i t h o t h e r s u c h s t u d i e s w h i c h h a v e i n c l u d e d h e u r i s t i c e v a l u a t i o n ) . N i e l s e n h i m s e l f ( i n
N i e l s e n 1 9 9 4 a ) h a s p r o p o s e d a n e w s e t o f n i n e h e u r i s t i c s , b u t o n l y o n e v a l i d a t i o n a t t e m p t
( M u l l e r e t a l . 1 9 9 5 ) i s k n o w n . A g a i n t o t h e a u t h o r s k n o w l e d g e , t h e o n l y a t t e m p t t o c o m p a r e
o r v a l i d a t e a l t e r n a t i v e p r i n c i p l e s s e t s i s t h e s e r i e s o f e x p e r i m e n t s b y B a s t i e n a n d S c a p i n
( m o s t r e c e n t l y r e p o r t e d i n B a s t i e n e t a l . 1 9 9 9 ) .
4 . 1 G u i d e l i n e s v e r s u s H e u r i s t i c s
J e f f r i e s e t a l . ( 1 9 9 1 ) , M i l l e r & J e f f r i e s ( 1 9 9 2 ) c o m p a r e d h e u r i s t i c e v a l u a t i o n w i t h g u i d e l i n e s a s
p a r t o f a s t u d y o f f o u r m e t h o d s ( t h e o t h e r t w o b e i n g c o g n i t i v e w a l k t h r o u g h a n d u s a b i l i t y
t e s t i n g ) . T h e h e u r i s t i c s u s e d w e r e p r o b a b l y t h e o r i g i n a l M o l i c h & N i e l s e n ( 1 9 9 0 ) s e t ; t h e 6 2
( u n s p e c i f i e d ) g u i d e l i n e s w e r e a H e w l e t t - P a c k a r d c o l l e c t i o n . T h o u g h t h e g u i d e l i n e s f o u n d
m o s t r e c u r r i n g a n d g e n e r a l p r o b l e m s , h e u r i s t i c e v a l u a t i o n f o u n d m o r e ( s e r i o u s a n d n o n -
s e r i o u s ) p r o b l e m s , a n d a t t h e l o w e s t c o s t , t h a n a n y o f t h e f o u r m e t h o d s . H o w e v e r , i t i s n o t
s p e c i f i e d h o w t h e g u i d e l i n e s w e r e u s e d ( n o r , i n d e e d , n o w t h e h e u r i s t i c e v a l u a t i o n w a s
c a r r i e d o u t , a n d i f t h i s w a s d o n e d i f f e r e n t l y ) , s o i t i s d i f f i c u l t t o d r a w f i r m c o n c l u s i o n s f r o m t h i s
s t u d y r e g a r d i n g g u i d e l i n e s v e r s u s h e u r i s t i c s .
I n a l a t e r s t u d y f o c u s e d o n d i r e c t m a n i p u l a t i o n , C u o m o & B o w e n ( 1 9 9 2 , 1 9 9 4 ) c o m p a r e d
h e u r i s t i c e v a l u a t i o n , g u i d e l i n e e v a l u a t i o n a n d c o g n i t i v e w a l k t h r o u g h a g a i n s t t h e r e s u l t s o f a
u s a b i l i t y t e s t . T h e h e u r i s t i c s a r e a g a i n u n s p e c i f i e d , b u t p r o b a b l y t h e M o l i c h & N i e l s e n ( 1 9 9 0 )
s e t . T h e g u i d e l i n e s w e r e t h e S m i t h & M o s i e r ( 1 9 8 6 ) c o l l e c t i o n d e s c r i b e d a b o v e . A n
a n a l y s i s b a s e d o n N o r m a n s ( 1 9 8 6 ) u s e r a c t i v i t y m o d e l ( N o r m a n s t h e o r y o f a c t i o n ) f o u n d
t h a t t h e g u i d e l i n e s h a d t h e b e s t s p r e a d o f u n i q u e p r o b l e m t y p e s a c r o s s t h e s t a g e s o f t h e
m o d e l ( a n d m o s t t y p e s o v e r a l l ) . T h e s e f i n d i n g s i m p l y t h a t g u i d e l i n e s a l l o w a w i d e r r a n g e o f
p r o b l e m i d e n t i f i c a t i o n t h a n h e u r i s t i c s . H o w e v e r , i n t h i s s t u d y t h e t w o h e u r i s t i c e v a l u a t o r s
w e r e a l l o w e d t o p r o c e e d i n a n y m a n n e r t h e y w i s h e d , w h e r e a s t h e s i n g l e g u i d e l i n e e v a l u a t o r
w o r k e d m o r e s y s t e m a t i c a l l y . I t i s n o t c l e a r , t h e r e f o r e , i f t h e r e s u l t s w e r e c o n f o u n d e d b y
d i f f e r e n c e s i n t h e m e t h o d s o f u s e , n o r w h a t w o u l d h a v e b e e n t h e e f f e c t o f i n t r o d u c i n g
a d d i t i o n a l e v a l u a t o r s .
I n t r o d u c t i o n
3 7
4 . 2 C o m p a r i n g H e u r i s t i c s
N i e l s e n ( 1 9 9 4 a ) c r e a t e d a n e w c a n d i d a t e s e t o f n i n e h e u r i s t i c s b y m a t c h i n g e a c h o f t h e
1 0 1 h e u r i s t i c s f r o m s e v e n p u b l i s h e d s e t s i n c l u d i n g M o l i c h & N i e l s e n ( 1 9 9 0 ) a g a i n s t t h e 2 4 9
u s a b i l i t y p r o b l e m s c o l l e c t e d f r o m 1 1 e a r l i e r ( u n s p e c i f i e d ) s t u d i e s b y t h e s a m e a u t h o r . A
f a c t o r a n a l y s i s r e v e a l e d a l i s t o f s e v e n m o s t i m p o r t a n t ( s u m m a r i s i n g ) f a c t o r s . T w o a d d i t i o n a l
h e u r i s t i c s w i t h t h e w i d e s t c o v e r a g e m a d e u p t h e n i n e . T h e s e p l u s H e l p a n d
D o c u m e n t a t i o n a r e l i s t e d i n F i g u r e 1 . 7 .
V i s i b i l i t y o f s y s t e m s t a t u s
M a t c h b e t w e e n s y s t e m a n d t h e r e a l w o r l d
U s e r c o n t r o l a n d f r e e d o m
C o n s i s t e n c y a n d s t a n d a r d s
E r r o r p r e v e n t i o n
R e c o g n i t i o n r a t h e r t h a n r e c a l l
F l e x i b i l i t y a n d e f f i c i e n c y o f u s e
A e s t h e t i c a n d m i n i m a l i s t d e s i g n
H e l p u s e r s r e c o g n i s e , d i a g n o s e , a n d r e c o v e r f r o m e r r o r s
H e l p a n d D o c u m e n t a t i o n
F i g u r e 1 . 7 . N i e l s e n s ( 1 9 9 4 a ) c a n d i d a t e s e t o f n i n e n e w h e u r i s t i c s , p l u s H e l p a n d D o c u m e n t a t i o n ,
l i s t e d i n N i e l s e n ( 1 9 9 4 d ) p 3 0 .
T o t h e a u t h o r s k n o w l e d g e t h i s a l t e r n a t i v e s e t h a s n o t b e e n u s e d i n a c o m p a r a t i v e s t u d y .
H o w e v e r , e x a m i n a t i o n o f t h e c o n t e n t s ( i n N i e l s e n 1 9 9 4 d ) r e v e a l s w h a t a p p e a r s t o b e a
c o m p l e t e m a t c h w i t h t h e o r i g i n a l l i s t i n F i g u r e 1 . 6 . O f t h e f i r s t t h r e e , V i s i b i l i t y o f s y s t e m
s t a t u s i s v e r y c l o s e t o P r o v i d e f e e d b a c k , M a t c h b e t w e e n s y s t e m a n d t h e r e a l w o r l d i s
s i m i l a r t o S p e a k t h e u s e r s l a n g u a g e , a n d U s e r c o n t r o l a n d f r e e d o m m a y b e c o n s i d e r e d t o
m i r r o r P r o v i d e c l e a r l y m a r k e d e x i t s . T h u s a v a l i d a t i o n o f t h e c o m p l e t e s e t w o u l d s e e m t o b e
c o m p a r i n g l i k e w i t h l i k e . H o w e v e r , s o m e , n o t a b l y R e c o g n i t i o n r a t h e r t h a n r e c a l l , a r e
c o u c h e d i n m o r e p r i n c i p l e - o r i e n t e d t e r m s , i m p l y i n g t h a t s m a l l - s c a l e c o m p a r i s o n s m i g h t b e
p r o f i t a b l e .
A s f o r a d d i t i o n a l o r d o m a i n - s p e c i f i c h e u r i s t i c s , N i e l s e n ( 1 9 9 0 d ) h a s i d e n t i f i e d f u r t h e r
n a v i g a t i o n a l d i m e n s i o n s a n d e l e m e n t s f o r t h e e v a l u a t i o n o f h y p e r t e x t . E l s e w h e r e , K a r a t e t
a l . ( 1 9 9 2 ) u s e d a s e t b a s e d o n N i e l s e n ( 1 9 9 3 ) ( m i n u s e r r o r m e s s a g e s a n d e r r o r
p r e v e n t i o n , p l u s f o u r a d d i t i o n a l h e u r i s t i c s ) i n t h e i r c o m p a r i s o n o f ( t e a m a n d i n d i v i d u a l )
h e u r i s t i c - b a s e d w a l k t h r o u g h s a n d u s e r t e s t i n g . T h e e x p e r i e n c e d e v a l u a t o r s w h o u s e t h e
h e u r i s t i c s r e p o r t e d t h a t t h e y w e r e o f l i m i t e d a d d e d v a l u e i n i d e n t i f y i n g u s a b i l i t y p r o b l e m s .
M u l l e r e t a l . ( 1 9 9 5 ) h a v e p r o p o s e d a n a d d i t i o n a l f o u r h e u r i s t i c s t o e n c o m p a s s w h a t t h e y c a l l
t h e p r o c e s s - o r i e n t e d ( u s e r s w o r k ) a s p e c t s o f u s a b i l i t y . T h e i r s e t o f 1 4 h e u r i s t i c s f o r
p a r t i c i p a t o r y h e u r i s t i c e v a l u a t i o n w o u l d i n c l u d e N i e l s e n s n e w ( 1 9 9 4 a ) s e t , a s l i s t e d a b o v e
( F i g u r e 1 . 7 ) , p l u s t h e i r v a l i d a t e d e x t e n s i o n s .
4 . 3 C o m p a r i n g P r i n c i p l e s
D u r i n g t h e 1 9 9 0 s , B a s t i e n a n d S c a p i n ( p r i n c i p a l l y a n d i n E n g l i s h , B a s t i e n & S c a p i n 1 9 9 2 ,
B a s t i e n & S c a p i n 1 9 9 5 , B a s t i e n e t a l . 1 9 9 6 , S c a p i n & B a s t i e n 1 9 9 7 , B a s t i e n e t a l . 1 9 9 9 )
h a v e d e v e l o p e d a n d v a l i d a t e d a s e t o f e r g o n o m i c c r i t e r i a f o r e v a l u a t i n g t h e e r g o n o m i c
C h a p t e r 1
3 8
q u a l i t y o f i n t e r a c t i v e s y s t e m s . T h e i r e i g h t e r g o n o m i c c r i t e r i a a n d s u b - c r i t e r i a ( m a k i n g 1 8
e l e m e n t a r y c r i t e r i a ) a r e b a s e d o n t h e s e t o r i g i n a l l y d e v i s e d b y S c a p i n ( 1 9 9 0 ) . T h i s w a s
d r a w n f r o m a r a n g e o f e x i s t i n g h u m a n f a c t o r s g u i d e s , n a m e l y a n e a r l i e r c o l l e c t i o n b y S c a p i n
( 1 9 8 7 ) , S m i t h & M o s i e r ( 1 9 8 6 ) , W i l l i g e s & W i l l i g e s ( 1 9 8 4 ) , E r g o n o m i c s A b s t r a c t s , a n d
p r e v i o u s u n p u b l i s h e d w o r k ( S c a p i n 1 9 9 0 p 2 0 8 a n d p 2 0 9 ) . S e e F i g u r e 1 . 8 .
1 . G u i d a n c e
1 . 1 . P r o m p t i n g *
1 . 2 . G r o u p i n g a n d d i s t i n g u i s h i n g i t e m s
1 . 2 . 1 . G r o u p i n g a n d d i s t i n g u i s h i n g i t e m s b y l o c a t i o n *
1 . 2 . 2 . G r o u p i n g a n d d i s t i n g u i s h i n g i t e m s b y f o r m a t *
1 . 3 I m m e d i a t e f e e d - b a c k *
1 . 4 L e g i b i l i t y *
2 . W o r k l o a d
2 . 1 . B r e v i t y
2 . 1 . 1 . C o n c i s e n e s s *
2 . 1 . 2 . M i n i m a l a c t i o n s *
2 . 2 . I n f o r m a t i o n d e n s i t y *
3 . E x p l i c i t c o n t r o l
3 . 1 . E x p l i c i t u s e r a c t i o n s *
3 . 2 . U s e r c o n t r o l *
4 . A d a p t a b i l i t y
4 . 1 . F l e x i b i l i t y *
4 . 2 . U s e r s e x p e r i e n c e *
5 . E r r o r m a n a g e m e n t
5 . 1 E r r o r p r o t e c t i o n *
5 . 2 . Q u a l i t y o f e r r o r m e s s a g e s *
5 . 3 . E r r o r c o r r e c t i o n *
6 . C o n s i s t e n c y *
7 . S i g n i f i c a n c e o f c o d e s *
8 . C o m p a t i b i l i t y *
F i g u r e 1 . 8 . T h e e i g h t e r g o n o m i c c r i t e r i a d e v e l o p e d b y B a s t i e n a n d S c a p i n . T h e 1 8 e l e m e n t a r y
c r i t e r i a , m a r k e d * , a r e t h o s e w h i c h c a n n o t b e f u r t h e r s u b - d i v i d e d ( S c a p i n & B a s t i e n 1 9 9 7 p 2 2 2 ) .
T h e 1 8 e l e m e n t a r y c r i t e r i a ( i n a v e r s i o n v e r y s i m i l a r t o F i g u r e 1 . 8 ) h a v e b e e n v a l i d a t e d b y
h a v i n g s p e c i a l i s t s a n d n o n - s p e c i a l i s t s m a t c h t h e c r i t e r i a a g a i n s t a s e t o f 3 6 u s a b i l i t y p r o b l e m s
p r e v i o u s l y f o u n d w i t h a d a t a b a s e a p p l i c a t i o n ( B a s t i e n & S c a p i n 1 9 9 2 ) . T h e r e s u l t s s h o w e d
t h a t h a l f o f t h e c r i t e r i a ( a m o n g t h e m F e e d b a c k , E r r o r p r o t e c t i o n , G r o u p i n g a n d
d i s t i n g u i s h i n g b y f o r m a t ) w e r e r e l a t i v e l y r o b u s t a n d m i g h t r e m a i n u n c h a n g e d , w h i l e t h e
o t h e r h a l f w o u l d n e e d i m p r o v e m e n t . A m o d i f i e d s e t ( t h o u g h w i t h t h e i d e n t i c a l s t r u c t u r e )
w a s l a t e r u s e d i n a n e v a l u a t i o n e x e r c i s e ( B a s t i e n & S c a p i n 1 9 9 5 ) . I n t h a t s t u d y , t w o g r o u p s
o f u s a b i l i t y s p e c i a l i s t s e v a l u a t e d a d i f f e r e n t d a t a b a s e s y s t e m u s i n g e i t h e r t h e c r i t e r i a o r
c o n t r o l m a t e r i a l s . T h e d i f f e r e n c e b e t w e e n u s a b i l i t y p r o b l e m c o u n t s t a k e n w h e n u s i n g
s o l e l y t h e i r e x p e r t i s e a n d w h e n l a t e r u s i n g t h e c o n t r o l m a t e r i a l s ( C o n t r o l g r o u p ) o r t h e
c r i t e r i a ( C r i t e r i a g r o u p ) w a s s i g n i f i c a n t l y h i g h e r f o r t h e C r i t e r i a g r o u p t h a n t h e C o n t r o l g r o u p .
T h e C r i t e r i a g r o u p h a d b o t h a h i g h e r p r o p o r t i o n o f t h e 5 0 3 k n o w n p r o b l e m s a n d a h i g h e r
p r o p o r t i o n o f p r o b l e m s i n c o m m o n . I n a l a t e r s t u d y ( B a s t i e n e t a l . 1 9 9 6 , S c a p i n e t a l . 1 9 9 9 ) ,
t h e s a m e e l e m e n t a r y c r i t e r i a w e r e c o m p a r e d w i t h P a r t 1 0 o f t h e 1 7 - p a r t i n t e r n a t i o n a l
s t a n d a r d f o r E r g o n o m i c R e q u i r e m e n t s f o r O f f i c e W o r k w i t h V D T s ( I S O 9 2 4 1 ) , t i t l e d D i a l o g u e
P r i n c i p l e s ( I S O 9 2 4 1 - 1 0 ( 1 9 9 6 ) ) . N o d i f f e r e n c e w a s f o u n d b e t w e e n a C o n t r o l g r o u p a n d
t h e I S O g r o u p i n t h e n u m b e r o r p r o p o r t i o n o f u s a b i l i t y p r o b l e m s f o u n d w i t h t h e d a t a b a s e
I n t r o d u c t i o n
3 9
s y s t e m . H o w e v e r , b o t h t h e n u m b e r a n d p r o p o r t i o n o f p r o b l e m s f o u n d b y t h e C r i t e r i a g r o u p
w e r e s i g n i f i c a n t l y h i g h e r t h a n t h o s e o f t h e C o n t r o l g r o u p .
T h e B a s t i e n & S c a p i n c r i t e r i a a r e t h e o n l y v a l i d a t e d s e t o f p r i n c i p l e s k n o w n t o t h e a u t h o r . A
s e t o f s c o p e c o m p a r a b l e t o ( a n d i n p a r t b a s e d o n ) t h a t o f B a s t i e n & S c a p i n i s t h a t o f J e a n
V a n d e r d o n c k t ( o u t l i n e d i n B o d a r t & V a n d e r d o n c k t 1 9 9 3 , 1 9 9 5 ) . H o w e v e r , t o t h e a u t h o r s
k n o w l e d g e t h i s s e t h a s n o t b e e n v a l i d a t e d o r c o m p a r e d w i t h o t h e r s e t s . T h e a u t h o r h a s
l o c a t e d o n l y a s u m m a r y c o n t e n t s ( v i a f t p f r o m J e a n V a n d e r d o n c k t ) .
M u c h o f w h a t B a s t i e n & S c a p i n h a v e a t t e m p t e d h a s b e e n r e p l i c a t e d i n t h i s t h e s i s . T h e
p r i n c i p l e s f o r m a t a d o p t e d b y t h e a u t h o r i s v e r y s i m i l a r t o t h e i r s ( f i r s t i l l u s t r a t e d i n B a s t i e n &
S c a p i n 1 9 9 5 ) , t h o u g h a r r i v e d a t i n d e p e n d e n t l y ( a n d b a s e d o n t h e s a m e s o u r c e , n a m e l y
S m i t h & M o s i e r 1 9 8 6 ) . E x p e r i m e n t 1 o f t h i s t h e s i s u s e d b o t h e x p e r i e n c e d a n d n o v i c e
s u b j e c t s . E x p e r i m e n t s 1 t o 3 i n c l u d e d c o n t r o l g r o u p s n o t p r o v i d e d w i t h e v a l u a t i o n m a t e r i a l s .
T h e B a s t i e n e t a l . ( 1 9 9 6 ) s t u d y i s v e r y s i m i l a r t o E x p e r i m e n t 1 i n i t s c o m p a r i s o n o f t w o f o r m s
o f e v a l u a t i o n m a t e r i a l s p l u s a c o n t r o l ( a n d , a s w e s h a l l s e e , i n i t s r e s u l t s ) . I n t h e s e n s e t h a t
t h e I S O 9 2 4 1 P a r t 1 0 D i a l o g u e P r i n c i p l e s a r e m o r e l i k e g e n e r a l ( i f l o n g e r t h a n t y p i c a l )
h e u r i s t i c s t h a n a f u l l p r i n c i p l e s s e t
5
, t h e 1 9 9 6 s t u d y i s y e t m o r e s i m i l a r t o E x p e r i m e n t 1 . L i k e
E x p e r i m e n t 2 , t h i s s t u d y g a v e s u b j e c t s p r i o r e x p o s u r e t o t h e e v a l u a t i o n m a t e r i a l s ( t h o u g h
u n l i k e E x p e r i m e n t 2 , a t r a i n i n g s e s s i o n w a s n o t u s e d ) . T h e p r o p o r t i o n o f p r o b l e m s f o u n d b y
i n d i v i d u a l e v a l u a t o r s w i l l a l s o b e a m a j o r c o n s i d e r a t i o n o f t h i s t h e s i s ( C h a p t e r 4 o n w a r d s ) .
H o w e v e r , t h e r e a r e d i f f e r e n c e s b e t w e e n B a s t i e n & S c a p i n a n d t h i s t h e s i s i n n o t o n l y t h e
s c o p e o f t h e p r i n c i p l e s s e t s b u t a l s o t h e p r o c e d u r e s u s e d . T h e a u t h o r s s e t c o n s i s t s o f 3 0
s u b - p r i n c i p l e s ( a t t r i b u t e s ) ( F i g u r e 1 . 3 ) c o m p a r e d w i t h B a s t i e n & S c a p i n s 1 8 e l e m e n t a r y
c r i t e r i a ( F i g u r e 1 . 8 ) . W h i l e t h e r e a r e c l e a r m a t c h e s ( f o r e x a m p l e b e t w e e n M i n i m u m S t e p s [ 5 ]
a n d M i n i m a l a c t i o n s [ 2 . 1 . 2 ] , a n d b e t w e e n F e e d b a c k [ 9 ] a n d I m m e d i a t e f e e d - b a c k [ 1 . 3 ] ) ,
t h e r e a r e m o r e a t t r i b u t e s w h i c h d o n o t f e a t u r e i n t h e c r i t e r i a ( f o r e x a m p l e R e s p o n s i v e n e s s
[ 2 3 ] a n d P e r c e p t u a l C l a r i t y [ 2 7 ] ) t h a n v i c e v e r s a . T h e r a n g e o f s o u r c e s u s e d b y t h e a u t h o r
( F i g u r e 1 . 5 ) i s a l s o w i d e r t h a n t h o s e c i t e d b y B a s t i e n & S c a p i n ( b o t h i n c l u d i n g S m i t h &
M o s i e r 1 9 8 6 a n d W i l l i g e s & W i l l i g e s 1 9 8 4 ) . E x p e r i m e n t s 1 t o 3 s u b j e c t s w e r e f r e e t o i d e n t i f y
u s a b i l i t y p r o b l e m s n o t d i r e c t l y d e r i v e d f r o m t h e e v a l u a t i o n m a t e r i a l s ( i n E x p e r i m e n t 2 t h i s w a s
e x p l i c i t l y s t i p u l a t e d ) , w h e r e a s i n B a s t i e n & S c a p i n s ( 1 9 9 5 , 1 9 9 6 ) s t u d i e s m o r e a t t e m p t w a s
m a d e t o c o n f i n e s u b j e c t s t o t h e m a t e r i a l s . E x p e r i m e n t s 1 t o 3 a r e b e t w e e n - s u b j e c t s
s t u d i e s , w h e r e a s i n B a s t i e n & S c a p i n ( 1 9 9 5 ) a p a r t i a l w i t h i n - s u b j e c t s d e s i g n w a s u s e d
( p e r h a p s b i a s i n g t h e r e s u l t i n g p r o b l e m r e p o r t i n g - o f a v i d e o r e p l a y o f e a c h s u b j e c t s o w n
i n t e r a c t i o n s - t o w a r d s p r e v i o u s l y i d e n t i f i e d p r o b l e m s ) .

5
W h e t h e r I S O 9 2 4 1 P a r t 1 0 i s a p r i n c i p l e s s e t o r a h e u r i s t i c s s e t i s p r o b a b l y n o t a n i s s u e w o r t h
p u r s u i n g . I t i s c e r t a i n l y v e r y g e n e r a l , a n d a v o w e d l y d o m a i n - i n d e p e n d e n t . I t s a p p l i c a t i o n i n a n y
i n s t a n c e i s s t a t e d t o d e p e n d o n t h e c h a r a c t e r i s t i c s o f t h e i n t e n d e d u s e r o f t h e s y s t e m , t h e t a s k s ,
t h e e n v i r o n m e n t a n d t h e s p e c i f i c d i a l o g u e t e c h n i q u e u s e d ( I S O 9 2 4 1 - 1 0 ( 1 9 9 6 ) p 2 ) . D i x e t a l .
( 1 9 9 8 , p 1 9 0 ) c h a r a c t e r i s e s t a n d a r d s a s h i g h i n a u t h o r i t y a n d l i m i t e d i n a p p l i c a t i o n .
C h a p t e r 1
4 0
M o r e i m p o r t a n t l y , t h i s t h e s i s d o e s n o t c o m p a r e p r i n c i p l e s s e t s , n o r d o e s i t s e t o u t t o v a l i d a t e
t h e a u t h o r s o w n s e t . E v e n i f s o m e s u p e r i o r i t y ( s u c h a s p r o b l e m c o u n t ) c o u l d b e f o u n d f o r
o n e l a r g e a n d w i d e - r a n g i n g s e t o v e r a n o t h e r , i t w o u l d b e v e r y d i f f i c u l t t o d e t e r m i n e w h a t i t
w a s a b o u t t h e w i n n i n g s e t w h i c h m a d e i t s u p e r i o r , a n d t h e r e w o u l d b e n o g u a r a n t e e o f
r e p e a t i n g t h e t r i c k w i t h a d i f f e r e n t s y s t e m . F o r t h a t r e a s o n , t h i s t h e s i s a t t e m p t s o n l y t h e s o f t
o p t i o n o f c o m p a r i n g p r i n c i p l e s w i t h h e u r i s t i c s . H o w e v e r , e v e n t h i s r e d u c e d o b j e c t i v e
s u f f e r s f r o m t h e s a m e l i m i t a t i o n , n a m e l y t h a t w i t h o u t c l e a r i n d i c a t i o n s o f t h e s t r e n g t h s a n d
w e a k n e s s e s o f b o t h m a t e r i a l s , a n y s u c c e s s f o r o n e o v e r t h e o t h e r w i l l b e d i f f i c u l t t o i n t e r p r e t .
W h i l e t h e r e a r e s t r o n g i n d i c a t i o n s o f a c o m m o n s e t o f c o r e i s s u e s ( e . g . c o n s i s t e n c y ,
f e e d b a c k , e r r o r m a n a g e m e n t ) , e x a c t l y w h a t m a k e s p r i n c i p l e s b e t t e r t h a n h e u r i s t i c s ( i f t h e y
a r e ) w i l l n e e d m o r e w o r k t h a n i s a t t e m p t e d h e r e . T h i s i m p o r t a n t i s s u e w i l l b e r e t u r n e d t o i n
C h a p t e r 8 .
5 . U s a b i l i t y a n d U s a b i l i t y E v a l u a t i o n M e t h o d s
T h e r e m a i n d e r o f t h i s C h a p t e r w i l l b e t a k e n u p w i t h a n e c e s s a r i l y b r i e f d i s c u s s i o n o f u s a b i l i t y
a n d u s a b i l i t y e v a l u a t i o n m e t h o d s , i n c l u d i n g h e u r i s t i c e v a l u a t i o n . T h i s a i m i s t o p l a c e t h e
p r i n c i p l e s v e r s u s h e u r i s t i c s t h e m e i n a w i d e r c o n t e x t , a n d l e a d u p t o s o m e m o r e s p e c i f i c
r e m a r k s r e g a r d i n g c o m p a r i s o n s o f e v a l u a t i o n m e t h o d s . T h e C h a p t e r c o n c l u d e s w i t h a
d i s c u s s i o n o f t h e r o l e o f c o g n i t i v e p s y c h o l o g y i n u s a b i l i t y r e s e a r c h .
5 . 1 U s a b i l i t y
A s l a t e a s 1 9 9 2 , A d l e r & W i n o g r a d w r o t e t h a t . . . t h e t y p i c a l h u m a n f a c t o r s e f f o r t i s g i v e n l o w
p r i o r i t y a m o n g a d e s i g n t e a m s o b j e c t i v e s . U s a b i l i t y i s s u e s a r e o f t e n l e f t t o t h e l a t e s t
p o s s i b l e d a t e , b y w h i c h t i m e m o d i f i c a t i o n s a r e t o o e x p e n s i v e t o m a k e . ( A d l e r & W i n o g r a d
1 9 9 2 p 4 ) . I n 1 9 9 4 , t h e m e a n s t a f f u t i l i s a t i o n f o r u s a b i l i t y l a b o r a t o r i e s i n 1 3 c o m p a n i e s w a s 1 7
p e r c o m p a n y , w i t h I B M a n d M i c r o s o f t h a v i n g t h e l a r g e s t l a b c o u n t ( N i e l s e n 1 9 9 4 f ) . B y 1 9 9 7 ,
h o w e v e r , M i c r o s o f t h a d 7 6 u s a b i l i t y e n g i n e e r s a n d 1 8 l a b s ( W i l l i a m s & M c C l i n t o c k 1 9 9 7 ) , a n d
w h e n t h i s a u t h o r l e f t i n e a r l y 1 9 9 8 m o r e w e r e b e i n g b u i l t . I n t h e s a m e y e a r , J o h n C a r r o l l
o b s e r v e d t h a t I n i n d u s t r y , H C I p r a c t i t i o n e r s h a v e b e c o m e w e l l i n t e g r a t e d i n s y s t e m
d e v e l o p m e n t . H C I s p e c i a l i s t s h a v e m o v e d i n t o a g r e a t v a r i e t y o f r o l e s b e y o n d h u m a n f a c t o r s
a s s u r a n c e . ( C a r r o l l 1 9 9 7 p 5 0 6 ) . E v e n b y 1 9 9 4 , a c c o r d i n g t o R u b i n ( 1 9 9 4 ) , t h e d e m a n d f o r
u s a b l e p r o d u c t s w a s o u t p a c i n g t h e s u p p l y o f t r a i n e d u s a b i l i t y p r o f e s s i o n a l s . I n 2 0 0 0 , t h i s
d e m a n d p r o d u c e s a r o u n d 1 0 j o b s p e r w e e k w o r l d - w i d e
6
f o r u s a b i l i t y e n g i n e e r s a n d r e l a t e d
p e r s o n n e l ( H C I R N J o b s I n d e x ) .
T h i s e x p l o s i o n o f u s a b i l i t y ( R u b i n 1 9 9 4 p a g e x v i i ) h a s b e e n a c c o m p a n i e d b y a d r a m a t i c
g r o w t h i n r e s e a r c h a n d o t h e r p u b l i c a t i o n s . A s e a r c h o f t h e S o c i a l S c i e n c e C i t a t i o n I n d e x
f r o m 1 9 8 1 t o 1 9 9 0 i n c l u s i v e ( v i a t h e B I D S
7
I S I D a t a S e r v i c e ) o n k e y w o r d u s a b i l i t y ( i n t i t l e ,

6
I n t h e o r y . I n p r a c t i c e , m o s t a r e b a s e d i n t h e U S .
7
B I D S h a s s i n c e c h a n g e d t o W e b o f S c i e n c e ( W o S ) .
I n t r o d u c t i o n
4 1
a u t h o r s & j o u r n a l ) r e t u r n e d j u s t 1 9 e n t r i e s . T h e s a m e s e a r c h f o r y e a r s 1 9 9 1 t o 1 9 9 4
i n c l u s i v e r e t u r n e d 9 1 c i t a t i o n s , a n d f o r 1 9 9 5 t o J u l y 2 0 0 0 i n c l u s i v e t h e r e w e r e 2 4 6 . B o o k s
p u b l i s h e d b e t w e e n 1 9 9 3 a n d 2 0 0 0 i n c l u d e p r a c t i c a l g u i d e s ( D u m a s & R e d i s h 1 9 9 3 , R u b i n
1 9 9 4 ) , a u s a b i l i t y i n p r a c t i c e c o l l e c t i o n ( W i k l u n d 1 9 9 4 ) , h a n d b o o k s ( e . g . G e o r g e 1 9 9 5 ) a n d
c o l l e c t i o n s o n t h e p o l i t i c s o f u s a b i l i t y ( B i a s & M a y h e w 1 9 9 4 , T r e n n e r & B a w a 1 9 9 8 ) . U s a b i l i t y
m a y e v e n f i n d i t s w a y i n t o p u b l i c a c c e s s s y s t e m s ( R o w l e y & S l a c k 1 9 9 8 ) .
H o w e v e r , t h e f a c t t h a t P C s a r e n o w u s a b l e d o e s n o t m e a n t h a t w e u s e t h e m . T h e b a d
n e w s , a c c o r d i n g t o T o m L a n d a u e r ( L a n d a u e r 1 9 9 5 , N i c k e r s o n & L a n d a u e r 1 9 9 7 ) i s t h a t t h e
e f f e c t o f c o m p u t e r a i d s o n w o r k e f f i c i e n c y a n d p r o d u c t i v i t y h a s b e e n v e r y s l i g h t . T h o u g h
c o m p u t e r s h a v e t a k e n o v e r t h e n u m b e r - c r u n c h i n g a n d r e p e t i t i v e p r o c e s s e s t h a t h u m a n s
o n c e d i d , t h i s f i r s t p h a s e i s n o w r u n n i n g o u t o f s t e a m , a n d i n t h e s e c o n d p h a s e , i n w h i c h
c o m p u t e r s a u g m e n t r a t h e r t h a n t a k e o v e r o u r e v e r y d a y t a s k s , w e h a v e f a i l e d ( L a n d a u e r
1 9 9 5 p p 6 - 7 ) . A c c o r d i n g t o D o n a l d N o r m a n ( 1 9 9 8 ) , t h e s o l u t i o n i s t o m a k e c o m p u t e r s d o
l e s s , o r r a t h e r , t o m a t c h t h e m a n y s e p a r a t e t a s k s t h a t w e p e r f o r m b y p r o d u c i n g n o t g e n e r a l -
p u r p o s e d e v i c e s b u t s e p a r a t e i n f o r m a t i o n a p p l i a n c e s s p e c i a l i s e d f o r p a r t i c u l a r a c t i v i t i e s .
A c c o r d i n g t o L a n d a u e r ( 1 9 9 5 ) a n d N i c k e r s o n & L a n d a u e r ( 1 9 9 7 ) , t h e s o l u t i o n i s f o r n e w
a p p l i c a t i o n s t o b e m a d e n o t j u s t u s a b l e b u t u s e f u l a n d s o c i a l l y v a l u a b l e ; t h a t i s , t o m a k e
c o m p u t e r s d o m o r e , o r r a t h e r , d o m o r e s u f f i c i e n t l y u s e f u l t h i n g s ( L a n d a u e r 1 9 9 5 p 7 ) .
W h a t s e e m s t o h a v e h a p p e n e d i s t h a t u s a b i l i t y ( t h e m a t c h b e t w e e n w h a t a s y s t e m d o e s a n d
h o w w e l l i t c a n b e u s e d ) h a s t a k e n o v e r f r o m u t i l i t y ( t h e m a t c h b e t w e e n w h a t a s y s t e m d o e s
a n d w h a t i t s u s e r s m i g h t w a n t t o d o w i t h i t ) . T h i s i s i n s p i t e o f u t i l i t y b e i n g i n c o r p o r a t e d ,
i m p l i c i t l y o r e x p l i c i t l y , i n t o m a n y d e f i n i t i o n s o f u s a b i l i t y ( S h a c k e l 1 9 8 4 , G o u l d & L e w i s 1 9 8 5 ,
N i e l s e n 1 9 9 0 b , B e v a n e t a l . 1 9 9 1 , N i e l s e n 1 9 9 3 ) . I f u s a b i l i t y i s a m e a s u r e o f t h e
a c h i e v e m e n t o f s p e c i f i e d g o a l s i n a s p e c i f i e d c o n t e x t ( I S O 9 2 4 1 - 1 1 ( 1 9 9 8 ) ) , t h e n i t i s g o a l
a c h i e v e m e n t r a t h e r t h a n c o n t e x t i d e n t i f i c a t i o n w h i c h h a s b e c o m e t h e f o c u s . T h e e a r l y
a n d c o n t i n u a l f o c u s o n u s e r s s e e m s t o h a v e b e e n s u p e r s e d e d b y t h e t h i r d o f G o u l d &
L e w i s s f o u r d e s i g n p r i n c i p l e s , n a m e l y e a r l y a n d c o n t i n u a l u s e r t e s t i n g ( G o u l d 1 9 8 8 ) .
U s a b i l i t y h a s b e c o m e t a s k - ( o r p e r h a p s t e s t - ) c e n t r e d r a t h e r t h a n u t i l i t y - c e n t r e d .
. . . t h e u s e f u l n e s s a n d u s a b i l i t y o f s o f t w a r e h a v e u s u a l l y n o t b e e n s u b j e c t e d t o t h e
r e g u l a r a n d s y s t e m a t i c t e s t i n g o f a c t u a l u t i l i t y t h a t u n d e r l i e s i m p r o v e m e n t s i n m o s t o t h e r
t e c h n o l o g i e s . [ . . . ] T o o o f t e n i n s u f f i c i e n t a t t e n t i o n h a s b e e n p a i d t o m e a s u r i n g h o w w e l l
a n d i n w h a t w a y s s y s t e m s d o a n d d o n o t a c t u a l l y h e l p p e o p l e g e t w o r k d o n e .
( N i c k e r s o n & L a n d a u e r 1 9 9 7 p 1 4 . )
T h i s t h e s i s w i l l e n c o m p a s s a s p e c t s o f b o t h u s a b i l i t y a n d u t i l i t y . T h e v e r s i o n s o f t h e a u t h o r s
p r i n c i p l e s s e t u s e d i n E x p e r i m e n t s 1 a n d 2 i n c o r p o r a t e r e q u i r e m e n t s a n d f u n c t i o n a l i t y
p r i n c i p l e s n o t p r e s e n t i n m a n y s e t s i n c l u d i n g t h a t o f B a s t i e n & S c a p i n . T h e a p p r o a c h
a d o p t e d i n t h e s e t w o e x p e r i m e n t s w a s t o h a v e s u b j e c t s f r e e l y e x p l o r e t h e w h o l e o f t h e
s o f t w a r e t o b e e v a l u a t e d , r a t h e r t h a n p e r f o r m s p e c i f i c t a s k s . A s w e s h a l l s e e , t h i s e n a b l e d
r e p o r t i n g o f u s a b i l i t y ( o r r a t h e r u t i l i t y ) p r o b l e m s r e l a t e d t o w i d e r i s s u e s . T h e s e r e s u l t s w i l l b e
c o n t r a s t e d w i t h t h o s e o f E x p e r i m e n t 3 , w h e r e c l o s e l y c o n f i n e d t a s k s ( a n d s u b s e t s o f t h e
C h a p t e r 1
4 2
e v a l u a t i o n m a t e r i a l s ) w e r e u s e d . T h e b a l a n c e b e t w e e n f r e e e x p l o r a t i o n a n d s e t t a s k s i s a n
i s s u e f o r t h i s t h e s i s a n d w i l l b e e x p l o r e d i n l a t e r C h a p t e r s .
5 . 2 U s a b i l i t y E v a l u a t i o n M e t h o d s
F i g u r e 1 . 9 s h o w s a 2 x 2 t a x o n o m y o f u s a b i l i t y e v a l u a t i o n m e t h o d s ( U E M s ) , a d a p t e d f r o m
W h i t e f i e l d e t a l . ( 1 9 9 1 ) . T h i s c l a s s i f i c a t i o n s c h e m e i s s i m p l e r t h a n m o s t o t h e r s , b u t i n v o l v e s
m i n i m a l o v e r l a p b e t w e e n c a t e g o r i e s . T h e d i s c u s s i o n w h i c h f o l l o w s d r a w s o n b o t h W h i t e f i e l d
e t a l . ( 1 9 9 1 ) a n d M a c l e o d s ( 1 9 9 2 ) e l a b o r a t i o n .
I N S P E C T I O N
M E T H O D S
O B S E R V A T I O N A L
M E T H O D S
A N A L Y T I C
M E T H O D S
S U R V E Y
M E T H O D S
W I T H U S E R SW I T H O U T U S E R S
W I T H
S Y S T E M
W I T H O U T
S Y S T E M
F i g u r e 1 . 9 . A 2 x 2 t a x o n o m y o f u s a b i l i t y e v a l u a t i o n m e t h o d s , a d a p t e d f r o m W h i t e f i e l d e t a l . ( 1 9 9 1 ) .
G r o u p i n g s a r e b r o a d l y i n d i c a t i v e , o n l y . I n W h i t e f i e l d e t a l . t h e t e r m s y s t e m i s u s e d t o r e f e r
c o l l e c t i v e l y t o t h e u s e r a n d c o m p u t e r ; i n s p e c t i o n m e t h o d s a n d s u r v e y m e t h o d s w e r e d u b b e d
s p e c i a l i s t r e p o r t s a n d u s e r r e p o r t s , r e s p e c t i v e l y .
O n t h i s b r o a d l y i n d i c a t i v e c l a s s i f i c a t i o n , b o t h i n s p e c t i o n m e t h o d s a n d o b s e r v a t i o n a l
m e t h o d s a r e p e r f o r m e d u s i n g t h e s y s t e m u n d e r e v a l u a t i o n , w h e r e a s a n a l y t i c a n d s u r v e y
m e t h o d s t a k e p l a c e i n t h e a b s e n c e o f t h e s y s t e m . T h e d i f f e r e n c e b e t w e e n i n s p e c t i o n a n d
o b s e r v a t i o n i s t h a t i n s p e c t i o n s a r e c a r r i e d o u t w i t h o u t t h e p r e s e n c e o f u s e r s ( n o r m a l l y b y
s p e c i a l i s t s o r d e s i g n e r s ) , w h e r e a s o b s e r v a t i o n s i n c l u d e e n d u s e r s .
I n s p e c t i o n s [ w i t h s y s t e m , w i t h o u t u s e r s ] a r e p e r f o r m e d o n a s y s t e m , p r o t o t y p e ( i n c l u d i n g
m o c k u p ) o r s p e c i f i c a t i o n b y u s a b i l i t y s p e c i a l i s t s o r o t h e r p e r s o n n e l , w h o j u d g e t h e s y s t e m
a g a i n s t s o m e c r i t e r i a ( M a c k & N i e l s e n 1 9 9 4 , N i e l s e n 1 9 9 4 e ) . J u d g e m e n t s a n d p r e d i c t i o n s
a r e m a d e a b o u t t h e u s e o f t h e s y s t e m b y i t s e n d - u s e r s . I n g u i d e l i n e r e v i e w s ( M a c k &
N i e l s e n 1 9 9 4 ) a n d h e u r i s t i c e v a l u a t i o n ( d e s c r i b e d i n t h e n e x t S e c t i o n ) t h e e v a l u a t i v e c r i t e r i a
a r e g u i d e l i n e s , p r i n c i p l e s o r h e u r i s t i c s .
O t h e r i n s p e c t i o n m e t h o d s i n c l u d e c o g n i t i v e w a l k t h r o u g h , p l u r a l i s t i c w a l k t h r o u g h a n d e r r o r
a n a l y s i s . I n c o g n i t i v e w a l k t h r o u g h ( P o l s o n e t a l . 1 9 9 2 ) , e v a l u a t o r s w o r k t h r o u g h t h e
i n t e r a c t i o n p r o c e s s w i t h t h e u s e r a n d t h e u s e r s t a s k i n m i n d . A t e v e r y s t e p , t h e i n t e r f a c e i s
a s s e s s e d i n t e r m s o f i t s a b i l i t y t o s u p p o r t t h e u s e r s g o a l s ( u s i n g a g o a l s t r u c t u r e ) , a n d t o
g u i d e u s e r a c t i o n s t o w a r d s t a s k c o m p l e t i o n . P l u r a l i s t i c w a l k t h r o u g h ( B i a s 1 9 9 1 ) i n v o l v e s
t e a m s o f e v a l u a t o r s ( i n v o l v i n g u s e r s , d e v e l o p e r s a n d h u m a n f a c t o r s p r o f e s s i o n a l s ) t o g e t h e r
r e v i e w i n g d e s i g n s c r e e n s , e a c h i n t u r n a c t i n g a s u s e r s . E r r o r a n a l y s i s ( e . g . C h r i s t i e e t a l .
I n t r o d u c t i o n
4 3
1 9 9 5 ) i n v o l v e s a s s e s s m e n t o f t h e r a n g e o f p o s s i b l e e r r o r s w h i c h m i g h t b e a s s o c i a t e d w i t h
e a c h s t e p o f i n i n t e r a c t i o n s e q u e n c e .
S t u d i e s w h i c h h a v e c o m p a r e d h e u r i s t i c e v a l u a t i o n w i t h o t h e r m e t h o d s w i l l b e s u m m a r i s e d
b e l o w . C h a p t e r 6 w i l l m a k e u s e o f d a t a f r o m a n e a r l i e r e r r o r a n a l y s i s p e r f o r m e d b y t h e a u t h o r .
O b s e r v a t i o n a l m e t h o d s [ w i t h s y s t e m , w i t h u s e r s ] a r e t h o s e i n w h i c h d a t a i s c o l l e c t e d
d u r i n g u s e r - s y s t e m i n t e r a c t i o n . M e t h o d s r a n g e f r o m a u t o m a t i c m o n i t o r i n g a n d o b s e r v a t i o n
u n d e r l a b o r a t o r y c o n d i t i o n s ( u s e r t e s t i n g ) t o e t h n o g r a p h i c a p p r o a c h e s . P e r f o r m a n c e d a t a
( e i t h e r s y s t e m o r u s e r , o r b o t h ) m a y b e c o l l e c t e d . U s e r s m a y o r m a y n o t b e a s k e d t o t h i n k
a l o u d , t h a t i s , v o c a l i s e t h e i r r e a c t i o n s ; o t h e r c o m m e n t s m a y a l s o b e e l i c i t e d . T h e d e g r e e o f
o b s e r v e r i n v o l v e m e n t r a n g e s f r o m n i l i n a u t o m a t i c l o g g i n g t o h i g h i n e t h n o g r a p h i c
a p p r o a c h e s . S e t t i n g s f o r o b s e r v a t i o n a l s t u d i e s i n c l u d e b o t h r e a l a n d s i m u l a t e d w o r k
e n v i r o n m e n t s a n d l a b o r a t o r y s e t - u p s .
O b s e r v a t i o n a l m e t h o d s i n c l u d e u s a b i l i t y e n g i n e e r i n g t o w a r d s m e a s u r a b l e c r i t e r i a ( T y l d e s l e y
1 9 8 8 , W h i t e s i d e e t a l . 1 9 8 8 , W i x o n & W i l s o n 1 9 9 7 ) , c o o p e r a t i v e e v a l u a t i o n ( W r i g h t & M o n k
1 9 9 1 , M o n k e t a l . 1 9 9 3 ) , a n d e t h n o g r a p h i c a p p r o a c h e s . T h e l a t t e r i n c l u d e c o n t e x t u a l
d e s i g n ( W i x o n e t a l . 1 9 9 0 ) a n d c o n t e x t u a l e n q u i r y ( H o l t z b l a t t & J o n e s 1 9 9 3 ) , p l u s
p a r t i c i p a t o r y d e s i g n ( S c h u l e r & N a m i o k a 1 9 9 3 ) .
C h a p t e r 4 f e a t u r e s a n o u t l i n e o f c o o p e r a t i v e e v a l u a t i o n a n d d i s c u s s e s o n e o f t h e s t u d i e s o n
w h i c h i t i s b a s e d . E t h n o g r a p h i c a p p r o a c h e s ( a s w e l l a s f o c u s g r o u p s a n d i n t e r v i e w i n g ) a r e
g e r m a n e t o t h e a b o v e d i s c u s s i o n o f u t i l i t y a n d c o n t e x t o f u s e , a n d w i l l b e r e t u r n e d t o i n
C h a p t e r 8 .
A n a l y t i c M e t h o d s [ w i t h o u t s y s t e m , w i t h o u t u s e r s ] a r e t h o s e i n w h i c h e x p e r t s o r
s p e c i a l i s t s d e r i v e p r e d i c t i o n s a b o u t s y s t e m u s e f r o m f o r m a l o r s e m i - f o r m a l m o d e l s o r
s p e c i f i c a t i o n s o f t h e s y s t e m , i t s i n t e r f a c e , o r i t s u s e r s . T a r g e t s o f s u c h p r e d i c t i o n s i n c l u d e
u s e r e r r o r s , t a s k t i m e , u s e r g o a l s a n d t a s k m o d e l s .
A n a l y t i c m e t h o d s i n c l u d e G O M S ( C a r d e t a l . 1 9 8 3 ) a n d t h e K e y s t r o k e L e v e l M o d e l ( K L M )
( C a r d e t a l . 1 9 8 0 ) a n a l y s i s , C o g n i t i v e C o m p l e x i t y T h e o r y ( C C T ) ( K i e r a s & P o l s o n 1 9 8 5 ) , a n d
T a s k A c t i o n G r a m m a r ( T A G ) ( P a y n e & G r e e n 1 9 8 6 ) .
S u r v e y m e t h o d s [ w i t h o u t s y s t e m , w i t h u s e r s ] a r e t h o s e i n w h i c h d a t a i s c o l l e c t e d f r o m
u s e r s c o n c e r n i n g s y s t e m u s e , ( m a i n l y ) a w a y f r o m t h e s y s t e m i t s e l f . D a t a c a n i n c l u d e u s e r s
a t t i t u d e s , o p i n i o n s a n d p r o b l e m s c o n c e r n i n g b o t h t h e s y s t e m a n d i t s w i d e r c o n t e x t .
S u r v e y m e t h o d s i n c l u d e q u e s t i o n n a i r e s , i n t e r v i e w s a n d f o c u s g r o u p s .
T h e t w o m a i n t h e m e s o f t h i s t h e s i s a r e c o n c e r n e d w i t h t h e d i s t i n c t i o n b e t w e e n i n s p e c t i o n
m e t h o d s a n d o b s e r v a t i o n a l m e t h o d s , a s d e p i c t e d a b o v e . T h e f i r s t t h e m e ( C h a p t e r s 2 t o 5 )
C h a p t e r 1
4 4
e x p l o r e s t h e u s e o f o n e f o r m o f i n s p e c t i o n m e t h o d , n a m e l y g u i d e l i n e r e v i e w , t o i d e n t i f y
u s a b i l i t y ( a n d u t i l i t y ) p r o b l e m s . T h e r e v i e w s u s e d i n t h i s t h e s i s m a k e u s e o f p r i n c i p l e s a n d
h e u r i s t i c s , a n d m o s t o f t h e p r o c e d u r e s p r e s c r i b e d f o r h e u r i s t i c e v a l u a t i o n . T h e s e c o n d
t h e m e o f t h e t h e s i s ( C h a p t e r 4 o n w a r d s ) c o n c e r n s t h e n u m b e r o f e v a l u a t o r s r e q u i r e d t o
i d e n t i f y t h e m a j o r i t y o f u s a b i l i t y p r o b l e m s . I n C h a p t e r 5 o n w a r d s , t h i s w i l l b e f u r t h e r e x p l o r e d
i n r e l a t i o n t o p r o b l e m s o c c u r r i n g u n d e r o n e f o r m o f o b s e r v a t i o n a l m e t h o d , n a m e l y t h i n k -
a l o u d u s e r t e s t i n g .
T h i s c o n t r a s t b e t w e e n p r e d i c t e d ( a s o p p o s e d t o m e r e l y r e p o r t e d ) a n d o b s e r v e d p r o b l e m s
w i l l b e c h a r a c t e r i s e d i n t e r m s o f G r a y & S a l z m a n s ( 1 9 9 8 ) b r o a d d i s t i n c t i o n b e t w e e n a n a l y t i c
a n d e m p i r i c a l m e t h o d s . A n a l y t i c m e t h o d s a t t e m p t t o m a k e p r e d i c t i o n s a b o u t u s e r - s y s t e m
i n t e r a c t i o n f r o m i n t r i n s i c s y s t e m f e a t u r e s ( i n c l u d i n g m o c k u p s o r p r o t o t y p e s ) , w h i l e
e m p i r i c a l m e t h o d s m e a s u r e s o m e a s p e c t ( s ) o f i n t e r a c t i o n w h i l e a ( f u l l o r p a r t i a l ) s y s t e m i s i n
u s e . O n t h i s c l a s s i f i c a t i o n , b o t h i n s p e c t i o n m e t h o d s a n d ( f o r e x a m p l e ) G O M S a r e a n a l y t i c
w h i l e o b s e r v a t i o n a l m e t h o d s a r e e m p i r i c a l . I n t h i s t h e s i s , t h e t e r m a n a l y t i c w i l l b e u s e d i n
t h i s w i d e r s e n s e , t h a t i s , t o e n c o m p a s s t h e p r e d i c t i v e n a t u r e o f i n s p e c t i o n m e t h o d s s u c h a s
p r i n c i p l e - o r h e u r i s t i c - b a s e d e v a l u a t i o n .
5 . 3 H e u r i s t i c E v a l u a t i o n
T h o u g h i n t h e a u t h o r s v i e w i t i s n o t e s s e n t i a l t h a t t h e d e c l a r e d m e t h o d o l o g y o f h e u r i s t i c
e v a l u a t i o n ( o r a n y o t h e r m e t h o d ) b e f o l l o w e d i n o r d e r t o c o m p a r e e v a l u a t i o n m a t e r i a l s , i t w i l l
b e u s e f u l t o s e t o u t w h a t i s c l a i m e d f o r i t . I n a d d i t i o n , s o m e o f N i e l s e n s r e c o m m e n d a t i o n s
f o r h e u r i s t i c e v a l u a t i o n , p a r t i c u l a r l y t h o s e c o n c e r n i n g e v a l u a t o r e x p e r t i s e , a r e r e l e v a n t t o t h e
s e c o n d t h e m e o f t h e t h e s i s .
I n h e u r i s t i c e v a l u a t i o n ( p r i n c i p a l l y N i e l s e n & M o l i c h 1 9 9 0 , N i e l s e n 1 9 9 3 , N i e l s e n 1 9 9 4 d ) a n
e v a l u a t o r s y s t e m a t i c a l l y i n s p e c t s a n i n t e r f a c e t o a s s e s s c o m p l i a n c e w i t h a s e t o f h e u r i s t i c s
s u c h a s t h o s e p r o p o s e d b y M o l i c h & N i e l s e n ( 1 9 9 0 , d e s c r i b e d a b o v e ) , p l u s t h e e v a l u a t o r s
g e n e r a l k n o w l e d g e o f u s a b i l i t y p r i n c i p l e s ( N i e l s e n 1 9 9 4 d p 6 1 ) . I t i s r e c o m m e n d e d t h a t t h e
e v a l u a t o r g o e s t h r o u g h t h e i n t e r f a c e t w i c e , f o c u s i n g f i r s t o n i t s f l o w ( N i e l s e n 1 9 9 3 p 1 5 8 )
a n d t h e n o n i t s i n d i v i d u a l d i a l o g u e e l e m e n t s ( N i e l s e n 1 9 9 4 d p 6 1 ) . E v a l u a t o r s w i l l u s u a l l y
b e u s a b i l i t y s p e c i a l i s t s o r , b e t t e r , d o u b l e s p e c i a l i s t s ( N i e l s e n 1 9 9 2 ) , b u t h e u r i s t i c
e v a l u a t i o n c a n b e p e r f o r m e d b y p e o p l e w i t h l i t t l e o r n o u s a b i l i t y e x p e r t i s e ( N i e l s e n 1 9 9 3
p 1 6 2 ) . H o w e v e r , i t i s n o t r e c o m m e n d e d t o u s e e n d u s e r s a s e v a l u a t o r s , t h o u g h t h e y c a n
a n d s h o u l d b e u s e d i n u s e r t e s t s ( N i e l s e n 1 9 9 4 d ) .
S i n c e d i f f e r e n t e v a l u a t o r s w i l l i d e n t i f y d i f f e r e n t u s a b i l i t y p r o b l e m s , a n d a s i n g l e e v a l u a t o r w i l l
m i s s m o s t p r o b l e m s , i t i s r e c o m m e n d e d t h a t t h e f i n d i n g s f r o m a b o u t 3 t o 5 e v a l u a t o r s b e
a g g r e g a t e d t o g e t h e r , t h e e x a c t n u m b e r d e p e n d i n g o n a c o s t - b e n e f i t a n a l y s i s ( N i e l s e n &
M o l i c h 1 9 9 0 , N i e l s e n 1 9 9 3 , N i e l s e n 1 9 9 4 d ) . H o w e v e r , e a c h e v a l u a t o r s h o u l d i n s p e c t t h e
i n t e r f a c e a l o n e , a n d s h o u l d n o t b e a l l o w e d t o c o m m u n i c a t e u n t i l a f t e r a l l s e s s i o n s a r e
I n t r o d u c t i o n
4 5
c o m p l e t e ( p e r h a p s u s i n g a d e b r i e f i n g s e s s i o n ) . R e s u l t s c a n b e r e c o r d e d e i t h e r a s w r i t t e n
r e p o r t s b y e a c h e v a l u a t o r , o r b y h a v i n g e v a l u a t o r s v o c a l i s e t o a n o b s e r v e r - r e c o r d e r a s t h e y
p r o c e e d . I f a n o b s e r v e r i s u s e d , h e o r s h e c a n a s s i s t t h e e v a l u a t o r i n c a s e o f p r o b l e m s , f o r
e x a m p l e i f t h e e v a l u a t o r h a s l i m i t e d d o m a i n e x p e r i e n c e ( N i e l s e n 1 9 9 3 ) . H o w e v e r , i n s u c h a
c a s e t h e r e s p o n s i b i l i t y f o r a n a l y s i n g t h e i n t e r f a c e s t i l l r e s t s w i t h t h e e v a l u a t o r : t h e o b s e r v e r
d o e s n o t n e e d t o i n t e r p r e t t h e u s e r s a c t i o n s , a n d t h e e v a l u a t o r s h o u l d n o t b e g i v e n h e l p
u n t i l c l e a r l y i n t r o u b l e a n d h a s c o m m e n t e d o n t h e p r o b l e m ( N i e l s e n 1 9 9 4 d p p 1 5 7 - 1 5 8 ) .
O n e d r a w b a c k w i t h h e u r i s t i c e v a l u a t i o n i s t h a t i t t e n d s t o f i n d m o r e m i n o r u s a b i l i t y p r o b l e m s
t h a n m a j o r p r o b l e m s ( N i e l s e n 1 9 9 4 d ) . F o r t h i s r e a s o n , s o m e m e a n s o f p r i o r i t i s i n g i s
n e c e s s a r y . O n e s o l u t i o n i s t o h a v e e v a l u a t o r s a s s i g n s e v e r i t y r a t i n g s . A c c o r d i n g t o N i e l s e n ,
t h e s e v e r i t y o f a u s a b i l i t y p r o b l e m i s b a s e d o n a c o m b i n a t i o n o f t h r e e f a c t o r s , n a m e l y
f r e q u e n c y [ o f o c c u r r e n c e ] , i m p a c t [ o n t h e u s e r s s u b s e q u e n t u s e o f t h e s y s t e m ] , a n d
p e r s i s t e n c e [ o f t h e p r o b l e m s u b s e q u e n t t o u s e r s f i r s t e n c o u n t e r i n g i t ] , p l u s a f o u r t h , n a m e l y
m a r k e t i m p a c t ( N i e l s e n 1 9 9 4 d p 4 7 ) . S e v e r i t y s h o u l d b e a s s i g n e d b y e a c h e v a l u a t o r
i n d e p e n d e n t l y a f t e r t h e e v a l u a t i o n s e s s i o n s , e . g . b y q u e s t i o n n a i r e . T h e r e l i a b i l i t y o f
i n d i v i d u a l s e v e r i t y j u d g e m e n t s i s v e r y l o w , s o m e a n r a t i n g s f r o m t h r e e o r f o u r e v a l u a t o r s
s h o u l d b e u s e d ( N i e l s e n 1 9 9 4 d ) . P r o b l e m s j u d g e d t o b e m o r e s e v e r e t e n d t o b e f o u n d b y a
h i g h e r p r o p o r t i o n o f e v a l u a t o r s t h a n t h o s e t h a n g i v e n l o w s e v e r i t y ( p a r a p h r a s i n g N i e l s e n
1 9 9 4 d p 4 9 ) .
H e u r i s t i c e v a l u a t i o n i s e x p l i c i t l y i n t e n d e d a s a d i s c o u n t u s a b i l i t y e n g i n e e r i n g m e t h o d
( N i e l s e n 1 9 8 9 , N i e l s e n 1 9 9 0 a , N i e l s e n 1 9 9 3 , N i e l s e n 1 9 9 4 c ) . D i s c o u n t u s a b i l i t y
e n g i n e e r i n g i s b a s e d o n t h r e e t e c h n i q u e s , n a m e l y s c e n a r i o s , s i m p l i f i e d t h i n k i n g a l o u d a n d
h e u r i s t i c e v a l u a t i o n , p l u s e a r l y f o c u s o n u s e r s ( N i e l s e n 1 9 9 3 p 1 7 ) . S c e n a r i o s r e d u c e b o t h
f u n c t i o n a l i t y a n d i n t e r f a c e f e a t u r e s t o a m i n i m u m . S i m p l i f i e d t h i n k i n g a l o u d i n v o l v e s h a v i n g
o n e t e s t u s e r a t a t i m e p e r f o r m s e t t a s k s w h i l e t h i n k i n g o u t l o u d . H e u r i s t i c e v a l u a t i o n c a n b e
u s e d o n p r o t o t y p e s ( i n c l u d i n g p a p e r m o c k u p s ) , t h u s b e i n g s u i t a b l e f o r u s e e a r l y i n t h e
u s a b i l i t y e n g i n e e r i n g l i f e c y c l e . T h e d i s c o u n t m e t h o d i s n o t i n t e n d e d t o b e t h e b e s t
m e t h o d o r t o g i v e p e r f e c t r e s u l t s , b u t i t i s c l a i m e d t o i d e n t i f y m o s t o f t h e u s a b i l i t y p r o b l e m s
w h i c h c a n b e f o u n d b y m o r e e x p e n s i v e m e t h o d s a t a r e d u c e d c o s t ( N i e l s e n 1 9 8 9 , N i e l s e n
1 9 9 3 , N i e l s e n 1 9 9 4 c ) . S i n c e h e u r i s t i c e v a l u a t i o n a n d u s e r t e s t i n g t e n d t o i d e n t i f y d i f f e r e n t
s e t s o f p r o b l e m s , i t i s r e c o m m e n d e d t h a t t e s t i n g b e u s e d t o p i c k u p a n y p r o b l e m s n o t
f o u n d b y h e u r i s t i c e v a l u a t i o n ( N i e l s e n 1 9 9 4 d ) .
E x p e r i m e n t s 1 o f 3 o f t h i s t h e s i s m a d e u s e o f m o s t o f t h e a b o v e r e c o m m e n d a t i o n s f o r
h e u r i s t i c e v a l u a t i o n . B o t h n o v i c e s ( m a i n l y p s y c h o l o g y u n d e r g r a d u a t e s ) a n d e x p e r i e n c e d
s u b j e c t s ( H C I r e s e a r c h e r s ) a c t e d a s i n d e p e n d e n t e v a l u a t o r s . T h e s o f t w a r e a n d t a s k s w e r e
c h o s e n t o b e e i t h e r w i t h i n t h e s u b j e c t s e x p e r i e n c e a n d a c q u a i n t a n c e ( p u b l i c a c c e s s
s y s t e m , w o r d p r o c e s s o r , s p r e a d s h e e t ) o r d i r e c t l y r e l e v a n t t o t h e i r ( a l l e g e d ) i n t e r e s t s
C h a p t e r 1
4 6
( p s y c h o l o g y t e a c h i n g p a c k a g e ) . I n E x p e r i m e n t 1 t h e s o f t w a r e e v a l u a t e d w a s d e p i c t e d a s a n
e a r l y p r o t o t y p e . I n e a c h e x p e r i m e n t s u b j e c t s w e r e i n s t r u c t e d t o f i r s t r u n t h r o u g h t h e w h o l e
i n t e r f a c e a n d t h e n t o p r o c e e d i n m o r e d e t a i l . S u b j e c t s w e r e t o t h i n k a l o u d , u s i n g t h e
e v a l u a t i o n m a t e r i a l a s a g u i d e , b u t a l s o t o i d e n t i f y a n y i s s u e s o f t h e i r o w n ( u n l i k e i n B a s t i e n &
S c a p i n s s t u d i e s ) . I n E x p e r i m e n t 2 , s u b j e c t s w e r e s p e c i f i c a l l y a s k e d t o c o n s i d e r r e m e d i e s
a n d o t h e r r e c o m m e n d a t i o n s r e l a t e d t o t h e p r o b l e m s i d e n t i f i e d . I n E x p e r i m e n t s 1 a n d 3 t h e
e x p e r i m e n t e r a c t e d a s o b s e r v e r a n d r e c o r d e r , a s s i s t i n g a n d p r o m p t i n g o n l y i f n e c e s s a r y a n d
t a k i n g g r e a t c a r e n o t t o d i r e c t o r i n f l u e n c e t h e s u b j e c t s c o m m e n t s . ( I n E x p e r i m e n t 2 ,
s u b j e c t s e n t e r e d t h e i r c o m m e n t s a n d r e a c t i o n s o n l i n e , i n t o a p r e p a r e d s p r e a d s h e e t . )
E x c e p t i o n s t o t h e a b o v e r e c o m m e n d a t i o n s w e r e t h a t r e d u c e d - s c o p e s c e n a r i o s ( c l o s e d
t a s k s ) w e r e u s e d o n l y i n E x p e r i m e n t 3 . ( T h e i s s u e o f t a s k s c o p e w i l l b e t a k e n u p i n l a t e r
C h a p t e r s . ) S e v e r i t y r a t i n g s w e r e a s s i g n e d b y e a c h s u b j e c t a t t h e e n d o f e a c h s e s s i o n , i n a n
i n d i v i d u a l d e b r i e f i n g w i t h t h e e x p e r i m e n t e r . I n a s s i g n i n g s e v e r i t y , s u b j e c t s w e r e a s k e d t o
c o n s i d e r o n l y t h e i m p a c t o f e a c h p r o b l e m ( f r o m t r i v i a l t o s e r i o u s ) . T w o f o r m s o f p r o b l e m
f r e q u e n c y , n a m e l y f r e q u e n c y o f p r e d i c t i o n a n d ( i n E x p e r i m e n t 3 ) f r e q u e n c y o f o c c u r r e n c e ,
w e r e d e r i v e d , b u t b o t h w e r e c o m p u t e d f r o m t h e s u b j e c t d a t a . P e r s i s t e n c e w a s n o t
a s s e s s e d ( n o r m a r k e t i m p a c t ) . T h e i s s u e o f s e v e r i t y j u d g e m e n t w i l l a l s o b e t a k e n u p i n l a t e r
C h a p t e r s .
W h i l e i t i s c l e a r t h a t e v a l u a t o r e x p e r t i s e p l a y s a s t r o n g r o l e i n h e u r i s t i c e v a l u a t i o n , i t i s n o t
c l e a r t o w h a t e x t e n t h e u r i s t i c s r e l y o n b a c k g r o u n d e x p e r i e n c e o v e r s u b s t a n t i v e c o n t e n t ( s e e
S e c t i o n 3 . 4 ) . F o r t h i s r e a s o n , E x p e r i m e n t s 1 a n d 2 m a d e u s e o f a c o n t r o l c o n d i t i o n i n w h i c h
s u b j e c t s w e r e n o t p r o v i d e d w i t h e i t h e r h e u r i s t i c s o r p r i n c i p l e s . E x p e r i m e n t 1 a l s o c o m p a r e d
t h e a b i l i t y o f n o v i c e s a n d e x p e r i e n c e d s u b j e c t s t o i d e n t i f y u s a b i l i t y p r o b l e m s . I t w a s h o p e d
t h a t t h e n o v i c e s w o u l d p r o v i d e a b a s e l i n e a g a i n s t w h i c h e v a l u a t o r p e r f o r m a n c e m i g h t b e
m e a s u r e d .
T h e d i s c o u n t n a t u r e o f h e u r i s t i c e v a l u a t i o n , s p e c i f i c a l l y t h e c l a i m t h a t o n l y 3 t o 5 e v a l u a t o r s
c a n t o g e t h e r f i n d m o s t u s a b i l i t y p r o b l e m s w i t h a n i n t e r f a c e , i s t h e s e c o n d m a j o r t h e m e o f t h e
t h e s i s . T h i s a n d t h e c l o s e l y r e l a t e d i s s u e o f p r o b l e m i d e n t i f i c a t i o n w i l l b e t a k e n u p i n f u l l i n
C h a p t e r 4 a n d e x p l o r e d i n t h e s u c c e e d i n g C h a p t e r s .
5 . 4 C o m p a r a t i v e U s a b i l i t y E v a l u a t i o n
5 . 4 . 1 S u m m a r y o f R e l a t e d R e s e a r c h
T h e r e h a v e b e e n a l a r g e n u m b e r o f s t u d i e s c o m p a r i n g d i f f e r e n t u s a b i l i t y e v a l u a t i o n m e t h o d s
( U E M s ) . T h e f o l l o w i n g s u m m a r y f o c u s e s o n t h o s e w h i c h h a v e c o m p a r e d h e u r i s t i c
e v a l u a t i o n w i t h o t h e r m e t h o d s , t h o s e w h i c h h a v e c o n t r a s t e d i n s p e c t i o n m e t h o d s ( i n c l u d i n g
h e u r i s t i c e v a l u a t i o n o r g u i d e l i n e r e v i e w ) w i t h u s e r t e s t i n g , a n d t h o s e w h i c h h a v e c o m p a r e d
p r e d i c t e d ( a n a l y t i c ) a n d o b s e r v e d ( e m p i r i c a l ) u s a b i l i t y p r o b l e m s . S o m e s t u d i e s f a l l i n t o m o r e
t h a n o n e c a t e g o r y .
I n t r o d u c t i o n
4 7
S t u d i e s w h i c h h a v e c o m p a r e d h e u r i s t i c e v a l u a t i o n w i t h o t h e r m e t h o d s a r e i n g e n e r a l
a g r e e m e n t t h a t h e u r i s t i c e v a l u a t i o n i s g o o d a t f i n d i n g a w i d e s p r e a d o f g e n e r a l u s a b i l i t y
p r o b l e m s ( V i r z i e t a l . 1 9 9 3 , C u o m o & B o w e n 1 9 9 4 ) a t c o m p a r a t i v e l y l o w c o s t ( J e f f r i e s e t a l .
1 9 9 1 , N i e l s e n & P h i l l i p s 1 9 9 3 ) . H e u r i s t i c e v a l u a t i o n a n d a t h i n k - a l o u d t e s t w e r e r o u g h l y
e q u i v a l e n t i n f i n d i n g c o r e p r o b l e m s ( V i r z i e t a l . 1 9 9 3 ) , a n d a w a l k t h r o u g h w i t h o u t h e u r i s t i c s
f o u n d m o r e m i n o r p r o b l e m s t h a n h e u r i s t i c e v a l u a t i o n ( K e l l e y & A l l e n d e r 1 9 9 5 ) . H o w e v e r ,
o t h e r m e t h o d s s u c h a s c o g n i t i v e w a l k t h r o u g h m a y b e n e c e s s a r y i n o r d e r t o f o c u s o n
s p e c i f i c , t a s k - r e l a t e d p r o b l e m s o r r e - d e s i g n i s s u e s ( C u o m o & B o w e n 1 9 9 4 , D e s u r v i r e 1 9 9 4 ,
D u t t e t a l . 1 9 9 4 ) .
T h e r e i s a l s o g e n e r a l a g r e e m e n t t h a t i n s p e c t i o n m e t h o d s ( i n c l u d i n g h e u r i s t i c e v a l u a t i o n )
a n d u s e r t e s t i n g i d e n t i f y u s a b i l i t y i s s u e s o f d i f f e r e n t s o r t s a n d s c o p e ( B a i l e y e t a l . 1 9 9 2 ,
K a r a t 1 9 9 4 , D e s u r v i r e 1 9 9 4 , K a r a t 1 9 9 7 ) . A c c o r d i n g t o K a r a t ( 1 9 9 4 , p 2 2 1 ) , i n s p e c t i o n
m e t h o d s a r e a p p r o p r i a t e f o r i d e n t i f y i n g n u m e r o u s l o w - l e v e l d e s i g n t r a d e - o f f s , w h i l e u s e r
t e s t i n g i s s u i t e d f o r h i g h - l e v e l d e s i g n g u i d a n c e [ a n d ] f u l l c o v e r a g e o f [ t h e ] i n t e r f a c e . T h e
t w o a p p r o a c h e s m a y a l s o b e b e s t s u i t e d t o d i f f e r e n t s t a g e s o f t h e d e v e l o p m e n t c y c l e , w i t h
i n s p e c t i o n s m o s t e f f e c t i v e i n t h e e a r l i e r s t a g e s ( J e f f r i e s & D e s u r v i r e 1 9 9 2 , K a r a t e t a l . 1 9 9 2 ,
D e s u r v i r e 1 9 9 4 , K a r a t 1 9 9 7 ) . T h e a p p r o a c h e s a r e t h u s c o n s i d e r e d t o b e c o m p l e m e n t a r y
r a t h e r t h a n o v e r l a p p i n g i n y i e l d i n g d i f f e r e n t r e s u l t s ( J e f f r i e s & D e s u r v i r e 1 9 9 2 , K a r a t e t a l .
1 9 9 2 , K a r a t 1 9 9 4 ) . H o w e v e r , t h e p r e c i s e n a t u r e o f t h i s d i f f e r e n c e n e e d s t o b e b e t t e r
u n d e r s t o o d ( K a r a t 1 9 9 7 ) . A s f a r a s h e u r i s t i c e v a l u a t i o n i s c o n c e r n e d , J e f f r i e s & D e s u r v i r e
( 1 9 9 2 , p 4 1 ) c a u t i o n t h a t t h e m e t h o d s a d v a n t a g e s ( i t s f a s t , i t s c h e a p , i t f i n d s l o t s o f
p r o b l e m s ) s h o u l d b e w e i g h e d a g a i n s t i t s d i s a d v a n t a g e s ( i t r e q u i r e s m u l t i p l e e v a l u a t o r s , i t
w o r k s b e s t w i t h e x p e r t s , i t f i n d s a d i s t r e s s i n g n u m b e r o f m i n o r p r o b l e m s ) a n d t h e
a d v a n t a g e s o f u s e r t e s t i n g ( i t o v e r w h e l m i n g l y f i n d s s e v e r e p r o b l e m s , i t f i n d s p r o b l e m s t h a t
i m p a c t r e a l u s e r s ) .
T h e r e i s l e s s a g r e e m e n t o n t h e p r o p o r t i o n o f e m p i r i c a l p r o b l e m s t h a t c a n b e s u c c e s s f u l l y
p r e d i c t e d b y a n a l y t i c m e t h o d s . D e s u r v i r e e t a l . ( 1 9 9 2 ) f o u n d t h a t ( a t o n l y 4 4 % ) , e x p e r t s
u s i n g h e u r i s t i c e v a l u a t i o n c o r r e c t l y p r e d i c t e d m o r e t e s t p r o b l e m s t h a n c o g n i t i v e
w a l k t h r o u g h , w h i l e 5 5 % o f n o n - e x p e r t s p r e d i c t i o n s c o u l d n o t o c c u r . S e a r s ( 1 9 9 7 ) a l s o
f o u n d t h a t h e u r i s t i c e v a l u a t i o n c o r r e c t l y p r e d i c t e d a c o n s i s t e n t l y h i g h e r p r o p o r t i o n ( m e a n
4 7 % ) o f o b s e r v e d p r o b l e m s t h a n c o g n i t i v e w a l k t h r o u g h ( 2 4 % ) , b u t t h a t h e u r i s t i c e v a l u a t i o n
i d e n t i f i e d m a n y m o r e m i n o r p r o b l e m s a n d p r o b l e m s n o t o b s e r v e d
8
. C u o m o & B o w e n
( 1 9 9 4 ) f o u n d t h a t ( a t 5 8 % ) c o g n i t i v e w a l k t h r o u g h p r e d i c t e d m o r e p r o b l e m t y p e s t h a n e i t h e r
h e u r i s t i c e v a l u a t i o n ( 4 6 % ) o r t h e S m i t h & M o s i e r ( 1 9 8 6 ) g u i d e l i n e s ( 2 2 % ) . I n t h i s s t u d y t h e
g u i d e l i n e s a n d h e u r i s t i c s a l s o e l i c i t e d m o r e p r o b l e m t y p e s w h i c h w e r e n o t e x p e r i e n c e d o r
d e t e c t a b l e i n t h e u s a b i l i t y t e s t . I n a c a s e s t u d y o f c o g n i t i v e w a l k t h r o u g h a n d f i v e o t h e r

8
S e a r s ( 1 9 9 7 ) s h o w e d t h a t a h y b r i d o f t h e t w o m e t h o d s ( a n d a t h i r d f r o m K a r a t e t a l . 1 9 9 2 ) , d u b b e d
h e u r i s t i c w a l k t h r o u g h , p e r f o r m e d a b o u t t h e s a m e a s h e u r i s t i c e v a l u a t i o n o n m i n o r p r o b l e m s , b u t
o u t - p e r f o r m e d b o t h m e t h o d s o n s e r i o u s p r o b l e m s .
C h a p t e r 1
4 8
m e t h o d s i n c l u d i n g h e u r i s t i c e v a l u a t i o n , J o h n & M a s h y n a ( 1 9 9 7 ) f o u n d t h a t j u s t 5 % o f
o b s e r v e d p r o b l e m s h a d b e e n p r e c i s e l y p r e d i c t e d a n d a n o t h e r 5 % v a g u e l y p r e d i c t e d , w i t h
2 7 % f a l s e a l a r m s , b y o n e e v a l u a t o r u s i n g c o g n i t i v e w a l k t h r o u g h . O f t h e t o t a l p r e d i c t e d
p r o b l e m s f r o m t h i s s t u d y , J o h n & M a r k s ( 1 9 9 7 ) r e p o r t e d t h a t 5 2 % w e r e n o t o b s e r v e d , a n d
t h e c h a n g e s m a d e a s a r e s u l t o f t h o s e w h i c h w e r e o b s e r v e d r e s u l t e d i n j u s t 2 3 % f e w e r
p r o b l e m s ( a n d 1 1 % n e w p r o b l e m s ) . I n a n e a r l i e r s t u d y , B a i l e y e t a l . ( 1 9 9 2 ) e s t i m a t e d t h e
r a t i o o f p o t e n t i a l t o r e a l p r o b l e m s f o u n d b y h e u r i s t i c e v a l u a t i o n a t 1 0 : 1 .
5 . 4 . 2 S o m e C o n c l u s i o n s f r o m R e l a t e d R e s e a r c h
W h a t c a n b e c o n c l u d e d w i t h r e a s o n a b l e c e r t a i n t y f r o m t h e a b o v e s u m m a r y i s t h a t i n s p e c t i o n
m e t h o d s e l i c i t a m o r e d i v e r g e n t r a n g e o f u s a b i l i t y p r o b l e m s t h a n u s e r t e s t i n g , a n d t h a t t h e
t w o a p p r o a c h e s m a y b e c o n s i d e r e d c o m p l e m e n t a r y . W h e t h e r o r n o t w a l k t h r o u g h s c a n
r e p l a c e e m p i r i c a l t e s t s , h e u r i s t i c e v a l u a t i o n a n d o t h e r g u i d e l i n e - b a s e d t e c h n i q u e s m a y b e s t
b e u s e d i n t h e e a r l y s t a g e s o f t h e d e v e l o p m e n t c y c l e . H o w e v e r , p r e d i c t i o n s t h u s m a d e a r e
u n l i k e l y t o m a t c h w e l l w i t h t h o s e l a t e r o b s e r v e d , w i t h a s m a n y a s h a l f t u r n i n g o u t t o b e f a l s e
a l a r m s . T h e p r e d i c t i v e p o w e r o f h e u r i s t i c e v a l u a t i o n s e e m s t o b e h i g h e r t h a n t h a t o f
c o g n i t i v e w a l k t h r o u g h , t h o u g h o n l y t w o o f t h r e e s t u d i e s a g r e e o n t h i s . T h e r e i s m o r e
a g r e e m e n t t h a t c o g n i t i v e w a l k t h r o u g h a n d u s e r t e s t i n g a r e m o r e a l i k e i n f o c u s i n g o n d e f i n e d
t a s k s a n d s c e n a r i o s . I n a n y c a s e , i t a p p e a r s t h a t t h e e f f e c t i v e n e s s o f i n s p e c t i o n m e t h o d s i n
d i a g n o s i n g a n d a d d r e s s i n g r e a l p r o b l e m s r e m a i n s t o b e e s t a b l i s h e d .
W h i l e t h e a b o v e v i e w o f i n s p e c t i o n s v i s - a - v i s u s e r t e s t i n g i s b r o a d l y i n l i n e w i t h N i e l s e n s
a p p r a i s a l ( s e e S e c t i o n 5 . 3 ) , a n y o v e r - p r e d i c t i o n i n h e r e n t i n h e u r i s t i c e v a l u a t i o n w o u l d
d e t r a c t f r o m i t s r o l e a s a d i s c o u n t t e c h n i q u e . E v e n i f m o s t o f t h e f a l s e a l a r m s a r e t a k e n u p
w i t h m i n o r a n d t a n g e n t i a l i s s u e s , t h e c l a i m f o r a d i s c o u n t e d a p p r o a c h i s t h a t i t e n a b l e s a h i g h
p r o p o r t i o n o f r e a l p r o b l e m s ( s u c h a s t h o s e f o u n d i n u s e r t e s t i n g ) t o b e a c c o u n t e d f o r b y a
s m a l l n u m b e r o f s u i t a b l y e x p e r i e n c e d e v a l u a t o r s . T h e s e c o n d m a i n t h e m e o f t h e t h e s i s
e x a m i n e s t h e v a l i d i t y o f t h i s c l a i m f o r h e u r i s t i c e v a l u a t i o n . A s h a s b e e n s a i d , t h i s a u t h o r
b e l i e v e s t h a t i t i s n o t n e c e s s a r y t o f o l l o w t h e d i c t a t e s o f a n y o n e m e t h o d i n o r d e r t o c o m p a r e
e v a l u a t i o n m a t e r i a l s . P a r t o f t h e d i f f i c u l t y i n d i s e n t a n g l i n g t h e r e s u l t s o f U E M s t u d i e s i s t h a t
( w i t h t h e n o t a b l e e x c e p t i o n o f c o g n i t i v e w a l k t h r o u g h ) t h e m e t h o d s a r e r a r e l y d e s c r i b e d
s u f f i c i e n t l y w e l l , a n d o f f e r s o m u c h p o t e n t i a l f o r c o m b i n a t i o n a n d v a r i a t i o n , t h a t f i n d i n g s c a n
a p p e a r c o n t r a d i c t o r y . T h o u g h m a n y a s p e c t s o f h e u r i s t i c e v a l u a t i o n h a v e b e e n a c c o u n t e d
f o r , t h e c e n t r a l p r o c e d u r a l i s s u e s - p r e c i s e l y h o w t h e h e u r i s t i c s a r e t o b e u s e d t o e l i c i t
u s a b i l i t y p r o b l e m s , h o w p r o b l e m s a r e r e c o r d e d a n d c o u n t e d a s s e p a r a t e i s s u e s - r e m a i n
o p e n t o i n t e r p r e t a t i o n .
T h e r o l e o f e v a l u a t o r e x p e r t i s e i n h e u r i s t i c e v a l u a t i o n , i n p a r t i c u l a r N i e l s e n s ( 1 9 9 2 ) u s e o f
d o u b l e s p e c i a l i s t s ( t h o s e w i t h b o t h d o m a i n a n d e v a l u a t i o n e x p e r t i s e ) , a p p e a r s n o t t o h a v e
b e e n c o n f i r m e d . O f t h e a b o v e s t u d i e s , o n l y t w o ( D e s u r v i r e e t a l . 1 9 9 1 , D e s u r v i r e e t a l .
1 9 9 2 ) s e t o u t t o c o m p a r e t h e e f f e c t s o f e x p e r i e n c e l e v e l o n p r o b l e m i d e n t i f i c a t i o n . A s h a s
I n t r o d u c t i o n
4 9
b e e n p o i n t e d o u t , E x p e r i m e n t 1 o f t h i s t h e s i s u s e s b o t h e x p e r i e n c e d e v a l u a t o r s ( H C I
r e s e a r c h e r s ) a n d n o v i c e s ( m a i n l y p s y c h o l o g y u n d e r g r a d u a t e s ) . H o w e v e r , E x p e r i m e n t s 2
a n d 3 u s e d o n l y ( d i f f e r e n t ) n o v i c e s f r o m t h e s a m e p o o l . E v a l u a t o r e x p e r t i s e i s a n i s s u e f o r
t h i s t h e s i s a n d w i l l b e r e t u r n e d t o i n C h a p t e r 8 .
G r a y & S a l z m a n ( 1 9 9 8 ) h a v e c r i t i c i s e d t h e c o m p a r a t i v e U E M l i t e r a t u r e i n g e n e r a l , a n d f i v e
s t u d i e s ( J e f f r i e s e t a l . 1 9 9 1 , K a r a t e t a l . 1 9 9 2 , N i e l s e n 1 9 9 2 , D e s u r v i r e e t a l . 1 9 9 2 , N i e l s e n &
P h i l l i p s 1 9 9 3 ) i n p a r t i c u l a r , f o r l a c k i n g b o t h i n t e r n a l a n d e x t e r n a l v a l i d i t y . A c c o r d i n g t o t h e s e
a u t h o r s , t h e f i v e s t u d i e s l a c k i n t e r n a l v a l i d i t y i n r e l y i n g o n s m a l l s a m p l e s i z e s a n d o n e - o f f
m e a s u r e m e n t s ( s t a t i s t i c a l c o n c l u s i o n s v a l i d i t y ) , a n d , i n p a r t i c u l a r , b y n o t o b t a i n i n g
i n d e p e n d e n t a s s e s s m e n t s o f p r o b l e m c a t e g o r i e s a n d s e v e r i t y r a t i n g s . T h e y l a c k e x t e r n a l
v a l i d i t y b y b e i n g i n s u f f i c i e n t l y e x p l i c i t a b o u t w h a t m e t h o d v a r i a n t s o r s o f t w a r e c h a r a c t e r i s t i c s
w e r e u s e d ( c a u s a l c o n s t r u c t v a l i d i t y ) , a n d b y a t t e m p t i n g t o g e n e r a l i s e b e y o n d t h e s c o p e o f
p a r t i c u l a r r e s u l t s o r c o n c l u s i o n s . G r a y & S a l z m a n s p e c i f i c a l l y c r i t i c i s e t h e u s e o f p r o b l e m
c o u n t a s a m e a s u r e o f t h e e f f e c t i v e n e s s o f a U E M , r e c o m m e n d i n g t h a t r e s e a r c h e r s l i m i t b o t h
t h e i r e x p e c t a t i o n s a n d t h e i r c l a i m s f o r U E M s t u d i e s . O n e w a y w o u l d b e t o f o c u s o n t h e
p r e d i c t i v e p o w e r o f a n a l y t i c m e t h o d s b y d i s t i n g u i s h i n g b e t w e e n c o r r e c t p r e d i c t i o n s ( h i t s ) ,
o v e r - p r e d i c t i o n s ( f a l s e a l a r m s o r f a l s e p o s i t i v e s ) , m i s s e s , a n d c o r r e c t r e j e c t i o n s . A n o t h e r
w a y w o u l d b e t o d i s t i n g u i s h c l e a r l y b e t w e e n p r o b l e m t o k e n s ( s e p a r a t e i n s t a n c e s o f u s a b i l i t y
i s s u e s ) a n d p r o b l e m c a t e g o r i e s . A t h i r d w o u l d b e t o e m p l o y m u l t i p l e ( c o n v e r g e n t ) m e a n s o f
u s a b i l i t y a s s e s s m e n t .
T h e a p p r o a c h t a k e n i n t h i s t h e s i s a d d r e s s e s m a n y o f G r a y & S a l z m a n s c r i t i c i s m s a n d
r e c o m m e n d a t i o n s . S u b j e c t s a m p l e s i z e s v a r y f r o m 7 t o 9 p e r c e l l , w i t h f u l l r e p o r t i n g o f
s t a t i s t i c a l a n a l y s e s . C a r e h a s b e e n t a k e n t o b e e x p l i c i t a b o u t p r o c e d u r e s u s e d a n d t h e
s c o p e o f e v a l u a t i o n m a t e r i a l s . E x p e r i m e n t s 2 a n d 3 o f f e r ( a l b e i t l i m i t e d ) i n t e r - r a t e r r e l i a b i l i t y
d a t a f o r t h e i r p r o b l e m c o u n t t o t a l s ( b u t n o t s e v e r i t y r a t i n g s ) , a l l i e d t o a m o d e l o f t h e p r o b l e m
r e d u c t i o n p r o c e s s t o b e i n t r o d u c e d i n C h a p t e r 4 . E x p e r i m e n t 3 u s e s G r a y & S a l z m a n s
d i s t i n c t i o n b e t w e e n h i t s , f a l s e p o s i t i v e s a n d m i s s e s t o d i f f e r e n t i a t e b e t w e e n m e a s u r e s o f
p r e d i c t i v e p o w e r . C h a p t e r s 4 a n d 6 d e m o n s t r a t e t h e e f f e c t o f p r o b l e m c a t e g o r i s a t i o n o n
p r o b l e m c o u n t . C h a p t e r 7 p r e s e n t s s o m e ( m a i n l y q u a l i t a t i v e ) e v i d e n c e f o r t h e u s e o f
p r i n c i p l e s i n u s a b i l i t y a s s e s s m e n t .
T h i s a u t h o r a g r e e s w i t h G r a y & S a l z m a n t h a t p r o b l e m c o u n t i s a n i m p o v e r i s h e d m e a s u r e o f
t h e e f f e c t i v e n e s s o f a U E M , l e t a l o n e c o m p e t i n g g u i d e l i n e s a n d h e u r i s t i c s . G i v e n t h a t i t i s
t h e m a i n d e p e n d e n t v a r i a b l e i n t h e s e e x p e r i m e n t s , t h e a u t h o r b e l i e v e s t h a t t h e
e s t a b l i s h m e n t o f s o m e i n t e r n a l v a l i d i t y f o r t h i s m e a s u r e i s m o r e i m p o r t a n t t h a n w h e t h e r o r n o t
t h e p r o c e d u r e s u s e d q u a l i f y a s h e u r i s t i c e v a l u a t i o n . H o w e v e r , i n t h a t t h e s e p r o c e d u r e s d o
c l o s e l y r e s e m b l e N i e l s e n s p r e s c r i p t i o n ( S e c t i o n 5 . 3 ) , i t i s b e l i e v e d t h a t c o n c l u s i o n s
c o n c e r n i n g t h a t p a r t i c u l a r m e t h o d c a n b e d r a w n w i t h m o r e c o n f i d e n c e f r o m t h e e x p e r i m e n t s
t o b e r e p o r t e d t h a n f r o m s t u d i e s w h o s e i n t e r p r e t a t i o n o f h e u r i s t i c e v a l u a t i o n i s l e s s e x p l i c i t .
C h a p t e r 1
5 0
5 . 5 C o g n i t i v e P s y c h o l o g y a n d U s a b i l i t y
A s s t a t e d e a r l i e r , t h i s t h e s i s s t a r t s f r o m t h e v i e w t h a t i t i s p o s s i b l e t o i d e n t i f y a c o m m o n s e t o f
p r i n c i p l e s w h i c h u n d e r l i e a r a n g e o f i n t e r f a c e f a m i l i e s , a n d t h a t t h e r a t i o n a l e b e h i n d t h e s e
p r i n c i p l e s c a n m o s t u s e f u l l y b e u n d e r p i n n e d b y c o g n i t i v e p s y c h o l o g y . T h e a u t h o r s
p r i n c i p l e s s e t i s d r a w n f r o m a w i d e r a n g e o f s o u r c e s ( l i s t e d i n F i g u r e 1 . 5 ) , b u t i n p a r t i c u l a r t h e
c o l l e c t i o n o f g u i d e l i n e s i n M a r s h a l l e t a l . ( 1 9 8 7 ) . T h e o r i g i n s o f t h i s l a t t e r s e t l i e i n t u r n i n t h e
m a n y p r i n c i p l e s f r o m c o g n i t i v e p s y c h o l o g y d e s c r i b e d i n G a r d i n e r & C h r i s t i e ( 1 9 8 7 ) . T h e
a u t h o r s v i e w i s t h a t b y s t r u c t u r i n g e a c h p r i n c i p l e o r s u b - p r i n c i p l e i n t h e m a n n e r i l l u s t r a t e d i n
F i g u r e 1 . 4 , i t i s p o s s i b l e t o a v o i d t h e p i t f a l l s o f m a n y g u i d e l i n e c o l l e c t i o n s . I t i s a l s o p o s s i b l e
t o m a k e e x p l i c i t t h e r a t i o n a l e f o r e a c h p r i n c i p l e b y i n c l u d i n g t h e s o u r c e ( s ) f r o m w h i c h i t i s
d e r i v e d . I n t h e c a s e o f M a r s h a l l e t a l . ( 1 9 8 7 ) , t h o s e s o u r c e s i n c l u d e t h e p s y c h o l o g y o f
t h i n k i n g a n d m e n t a l m o d e l s , o f m e m o r y , o f s k i l l a c q u i s i t i o n a n d o f l a n g u a g e ( i n G a r d i n e r &
C h r i s t i e 1 9 8 7 ) . M a r s h a l l e t a l . p u t i t t h u s :
W h a t i s d i f f e r e n t a b o u t t h e g u i d e l i n e s p r e s e n t e d h e r e i s t h a t t h e y a r e b u i l t d i r e c t l y , i n a
s t r u c t u r e d m a n n e r , f r o m t h e t h e o r e t i c a l b a s e s w h i c h h a d b e e n l a r g e l y u n t a p p e d u n t i l
n o w . V e r y f e w o f t h e d e s i g n g u i d e l i n e s w h i c h a r e c u r r e n t l y a v a i l a b l e h a v e b e e n d e r i v e d
d i r e c t l y f r o m r e s e a r c h o n h i g h - l e v e l c o g n i t i v e p r o c e s s e s , a l o n g t h e l i n e s d e s c r i b e d h e r e .
I n p r e v i o u s c h a p t e r s [ o f G a r d i n e r & C h r i s t i e 1 9 8 7 ] , p s y c h o l o g i c a l t h e o r y w a s d i s t i l l e d
i n t o b r o a d p r i n c i p l e s o r s u m m a r i e s . T h e s e p r i n c i p l e s a r e n o w t a k e n t h r o u g h a p r o c e s s
o f s i m p l i f i c a t i o n a n d t u r n e d i n t o g u i d e l i n e s w h i c h a r e a s j a r g o n - f r e e a n d e x p l i c i t a s
p o s s i b l e . [ . . . ] T h e a i m i s t o d e m o n s t r a t e a n a p p r o a c h w h i c h m a y p r o v e i n c r e a s i n g l y
u s e f u l , a s o u r u n d e r s t a n d i n g o f h u m a n c o g n i t i v e p s y c h o l o g y c o n t i n u e s t o b r o a d e n a n d
d e e p e n , r a t h e r t h a n t o p r o v i d e a t o o l w h i c h i s f u l l y t e s t e d a n d r e a d y t o g o . ( M a r s h a l l e t
a l . 1 9 8 7 p 2 2 1 ) .
T h o u g h t h e p r o j e c t b e g a n b y t h e s e a u t h o r s r e m a i n s i n c o m p l e t e ( n o t a l l o f t h e 1 4 s e n s i t i v e
d i m e n s i o n s a r e d e v e l o p e d a s f u l l y a s t h e e x a m p l e i n F i g u r e 1 . 1 ) , a n d ( a s t h e a u t h o r s s a y )
t h e g u i d e l i n e s m a y r e q u i r e u p d a t i n g i n t h e l i g h t o f n e w r e s e a r c h , t h e i d e a l - o f g e n e r a t i n g
d e s i g n a n d e v a l u a t i o n p r i n c i p l e s f r o m e m p i r i c a l f i n d i n g s - r e m a i n s v a l i d . T h e i s s u e , t h e n , i s
w h e t h e r H C I r e s e a r c h i n g e n e r a l , a n d c o g n i t i v e p s y c h o l o g y i n p a r t i c u l a r , i s u p t o t h e j o b .
S o m e p r a c t i t i o n e r s d o n o t t h i n k s o . V i e w s r a n g e f r o m t h e s t r o n g p o s i t i o n - t h a t t h e r e i s
n o t h i n g i n t h e o r i e s o f h u m a n b e h a v i o u r w i t h s u f f i c i e n t g e n e r a l i t y a n d d e t a i l a t t h e c o g n i t i v e
l e v e l w h i c h c a n s e r v e a s a b a s i s f o r H C I ( L a n d a u e r 1 9 9 1 , t h e s i s a u t h o r s i t a l i c s ) , t o t h e w e a k -
t h a t t h e r o l e o f p s y c h o l o g y i n H C I h a s p r o v e d d i f f i c u l t t o a r t i c u l a t e i n s u f f i c i e n t d e t a i l a n d t o
v e r i f y i n p r a c t i c e ( C a r r o l l 1 9 9 1 ) . Y e t t h e d i s c i p l i n e o f c o g n i t i v e e r g o n o m i c s ( c o g n i t i v e
e n g i n e e r i n g i n t h e U S ) e x i s t s t o a r t i c u l a t e j u s t s u c h a r o l e f o r p s y c h o l o g y :
C o g n i t i v e e r g o n o m i c s i s c o n c e r n e d w i t h t h e m e n t a l a s p e c t s o f t h e [ h u m a n - c o m p u t e r ]
i n t e r a c t i o n a n d s o w i t h d e v e l o p i n g s p e c i f i c a t i o n s o f t h e k n o w l e d g e r e q u i r e d b y t h e
h u m a n t o i n t e r a c t w i t h t h e c o m p u t e r t o p e r f o r m w o r k e f f e c t i v e l y . [ . . . ] T o s u p p o r t t h e
s p e c i f i c a t i o n o f k n o w l e d g e r e q u i r e d b y h u m a n s t o u s e c o m p u t e r s , t h e d i s c i p l i n e o f
c o g n i t i v e e r g o n o m i c s i t s e l f n e e d s t o a c q u i r e a n d a p p l y p r i n c i p l e s c o n c e r n i n g t h a t
k n o w l e d g e . ( L o n g 1 9 8 9 , p 5 ) .
S o w h a t h a s g o n e w r o n g ? C a n c o g n i t i v e e r g o n o m i c s h a v e h a d s o l i t t l e i m p a c t t h a t t h e
p r i n c i p l e s a n d m o d e l s i n s u c h b o o k s a s L o n g & W h i t e f i e l d ( 1 9 8 9 ) a n d W r n ( 1 9 8 9 ) h a v e
I n t r o d u c t i o n
5 1
n o t h i n g t o o f f e r t o o u r u n d e r s t a n d i n g o f t h e m e n t a l a s p e c t s o f t h e i n t e r a c t i o n ? C a n
c o g n i t i v e p s y c h o l o g y h a v e n o t h i n g t o c o n t r i b u t e t o u s a b i l i t y ?
B a r n a r d ( 1 9 8 7 ) a c c o u n t e d f o r t h e w e a k v i e w i n t e r m s o f m a p p i n g s b e t w e e n c o g n i t i v e
t h e o r y a n d r e a l - w o r l d u s e r - s y s t e m i n t e r a c t i o n s . O n t h i s v i e w , t h e r e i s n o n e c e s s a r y m a t c h
b e t w e e n t h e o r i e s d e v e l o p e d i n t h e l a b o r a t o r y a n d r e a l u s e r p e r f o r m a n c e o r t h e c o m p l e x
c h o i c e s i n v o l v e d i n s y s t e m d e s i g n , w i t h o u t s h o w i n g t h a t t h e f o r m e r a p p l y u n e q u i v o c a l l y a n d
u n i q u e l y t o s p e c i f i c a s p e c t s o f t h e l a t t e r . B u t w h i l e i t i s n o t p o s s i b l e t o s o l v e e a c h a n d e v e r y
d e s i g n i s s u e b y f o r m a l e x p e r i m e n t , e v e n c o m p l e x m o d e l s s u c h a s G O M S ( C a r d e t a l . 1 9 8 3 )
a n d N o r m a n s t h e o r y o f a c t i o n ( N o r m a n 1 9 8 6 ) h a v e t h e c a p a c i t y t o i l l u m i n a t e s p e c i f i c a s p e c t s
o f u s e r - s y s t e m i n t e r a c t i o n . T h i s a u t h o r s i n t e r p r e t a t i o n o f B a r n a r d s v i e w i s t h a t i n 1 9 8 7 s u c h
c a p a c i t y w a s n o t ( y e t ) s u f f i c i e n t l y a p p a r e n t . Y e t a l l o f t h e a n a l y t i c m e t h o d s l i s t e d i n S e c t i o n
5 . 2 ( G O M S , K L M , C C T a n d T A G ) p r e d a t e 1 9 8 7 . S i n c e t h e n t h e r e h a v e b e e n e x t e n s i o n s t o
G O M S s u c h a s N G O M S L ( K i e r a s 1 9 9 7 ) , e l a b o r a t i o n s o f c o g n i t i v e w a l k t h r o u g h ( e . g . S e a r s
1 9 9 7 , S e a r s & H e s s 1 9 9 9 ) , a n d e m p i r i c a l t e s t s o f a c t i o n t h e o r y ( e . g . L i m e t a l 1 9 9 6 ) .
I t a p p e a r s , t h e n , t h a t a t l e a s t s o m e e x p l a n a t o r y p o w e r f o r m o d e l s b a s e d o n p r i n c i p l e s
c o n c e r n i n g t h e k n o w l e d g e r e q u i r e d b y h u m a n s t o u s e c o m p u t e r s h a s b e e n a n d i s b e i n g
e s t a b l i s h e d . I t d o e s n o t , t h e r e f o r e , s e e m t o o m u c h t o e x p e c t t h a t t h e c o g n i t i v e p r i n c i p l e s i n
s u c h c o l l e c t i o n s a s M a r s h a l l e t a l . ( 1 9 8 7 ) m a y p r o v e t o h a v e s i m i l a r p o t e n t i a l w h e n e x p r e s s e d
i n g u i d e l i n e s o f t h e f o r m i l l u s t r a t e d e a r l i e r i n t h e C h a p t e r . T h a t , i n e s s e n c e , i s t h e f i r s t t h e m e
o f t h i s t h e s i s .
S u m m a r y o f C h a p t e r 1
1 . T h i s C h a p t e r i n t r o d u c e d t h e t w o m a i n t h e m e s o f t h e t h e s i s a n d a t t e m p t e d t o p l a c e t h e m
i n t h e c o n t e x t o f r e s e a r c h c o m p a r i n g b o t h u s a b i l i t y g u i d e l i n e s a n d u s a b i l i t y e v a l u a t i o n
m e t h o d s .
2 . T h e a u t h o r s p r i n c i p l e s s e t w a s i n t r o d u c e d a n d c o n t r a s t e d w i t h N i e l s e n s h e u r i s t i c s .
3 . H e u r i s t i c e v a l u a t i o n w a s s u m m a r i s e d a n d s e t i n t h e c o n t e x t o f t h e t h e m e o f p r i n c i p l e s
v e r s u s h e u r i s t i c s .
4 . S u m m a r i e s w e r e o f f e r e d o f b o t h u s a b i l i t y e v a l u a t i o n m e t h o d s a n d t h e r o l e o f c o g n i t i v e
p s y c h o l o g y i n u s a b i l i t y .
C h a p t e r 1
5 2
5 . S e v e r a l i s s u e s w e r e f l a g g e d a n d p o s i t i o n e d f o r l a t e r C h a p t e r s . T h e y i n c l u d e :
c o m p a r i s o n o f p r i n c i p l e s a n d h e u r i s t i c s r a t h e r t h a n o f p r i n c i p l e s s e t s ; u s a b i l i t y p r o b l e m
i d e n t i f i c a t i o n a n d d i s c o u n t i n g ; f r e e e x p l o r a t i o n v s . s e t t a s k s ; u s a b i l i t y t e s t i n g v s .
i n s p e c t i o n ; u s a b i l i t y p r o b l e m s e v e r i t y j u d g e m e n t ; u s a b i l i t y p r o b l e m i d e n t i f i c a t i o n a n d
r e d u c t i o n ; t h e r o l e o f e v a l u a t o r e x p e r t i s e i n h e u r i s t i c e v a l u a t i o n ; e t h n o g r a p h i c
a p p r o a c h e s a n d u s a b i l i t y v s . u t i l i t y .