Cell#

calibration constant

measured Vref [mV]

deviation from average

deviation from avg [mV]

Error Vref from 2,048V

Error at 3,65V

 

1

8374161

2044

-0,07%

-1,37

-3,53

-6,29

 

2

8371368

2044

-0,10%

-2,05

-4,21

-7,50

 

3

8364682

2042

-0,18%

-3,68

-5,84

-10,41

 

4

8371416

2044

-0,10%

-2,04

-4,20

-7,48

 

5

8394946

2050

0,18%

3,71

1,55

2,76

 

6

8353046

2039

-0,32%

-6,52

-8,68

-15,47

 

7

8366274

2043

-0,16%

-3,29

-5,45

-9,72

 

8

8362106

2042

-0,21%

-4,31

-6,47

-11,53

 

9

8381278

2046

0,02%

0,37

-1,79

-3,19

 

10

8359304

2041

-0,24%

-5,00

-7,15

-12,75

 

11

8395053

2050

0,18%

3,73

1,57

2,80

 

12

8413402

2054

0,40%

8,21

6,05

10,79

 

13

8398504

2050

0,22%

4,57

2,42

4,31

 

14

8400952

2051

0,25%

5,17

3,01

5,37

 

15

8362524

2042

-0,21%

-4,21

-6,37

-11,35

 

16

8405756

2052

0,31%

6,34

4,19

7,46

 

17

8417310

2055

0,45%

9,16

7,01

12,49

 

18

8361948

2041

-0,21%

-4,35

-6,51

-11,60

 

19

8390300

2048

0,13%

2,57

0,41

0,74

 

20

8351076

2039

-0,34%

-7,01

-9,16

-16,33

 
 

Average:

2046

[mV]

 

-2,16

-3,85

 
 

Min:

2039

-0,34%

-7,01

-9,16

-16,33

 
 

Max:

2055

0,45%

9,16

7,01

12,49