같은 부품을 두 사람이 쟀는데 값이 다르게 나옵니다. 한 명은 합격이라 하고 한 명은 불량이라고 합니다. 노기스를 서로 바꿔서 다시 재 봐도 여전히 다르고, 교정필 스티커는 둘 다 멀쩡하게 붙어 있습니다. 그러면 "측정기를 새로 사야 하는 것 아니냐"는 말이 나옵니다.
이 글은 왜 값이 갈리는지, 교정을 매년 하는데도 왜 값이 모이지 않는지, 그 차이를 어디서 찾아 어떻게 없애는지에 대한 이야기입니다.
값을 갈라놓는 것은 계측기가 아니라 손입니다
측정값이 사람마다 다른 원인은 대부분 계측기가 아니라, 어디를 어떻게 잡고 재는지가 정해져 있지 않다는 데 있습니다. 도면에는 치수와 공차가 적혀 있지만 그 치수를 어디서 재라는 말은 없습니다. 검사기준서에도 보통 없습니다. 그러니 재는 자리는 각자 머릿속에 있습니다.
- 한 사람은 끝에서 조금 안쪽을 잡고, 다른 사람은 가운데를 잡습니다.
- 모따기가 있는 부품이면 날이 닿는 자리도 달라집니다.
- 잡는 힘도 사람마다 다릅니다. 꽉 물리는 사람과 살짝 대는 사람의 값은 같을 수 없습니다.
캘리퍼 측정을 다룬 미국 교정 기관 Accredited Labs 의 글도 같은 자리를 짚습니다.
If there's one factor responsible for more caliper disagreement than all others combined, it's measurement force. — Why Your Calipers Read Differently Than Your Coworker's (And What to Do About It), Accredited Labs
검사자 아홉 명이 같은 부품을 잰 결과
국내 품질 실무자 커뮤니티에 올라온 게이지 R&R 결과가 있습니다. 제품도 하나, 계측기도 하나로 통일해 검사자 아홉 명이 쟀는데 값이 전부 달랐고, 전체 변동의 92%가 측정자에게서 나왔습니다(%AV 92.28%). 한 측정자는 모든 시료를 규격 하한 쪽 값으로만 읽었습니다. 그 사람 손에서는 좋은 것과 나쁜 것이 갈리지 않았다는 뜻입니다. 그 상태가 판정에서 어떻게 보이는지는 이렇습니다.

교정은 이 차이를 잡아 주지 않습니다
교정이란 그 계측기가 표준과 얼마나 어긋났는지를 보는 일이지, 우리 현장에서 우리 손으로 같은 값이 나오는지를 보는 일이 아닙니다. 교정 성적서에는 합격이라고 적혀 있지도 않습니다. 교정업체는 잰 값만 적어서 돌려줍니다. 교정을 빠짐없이 해도 손이 다르면 값은 그대로 갈리는 모습은 이렇습니다.

교정과 재현성은 다른 것입니다. 둘을 같은 것으로 여기는 동안 돈은 쓰이고 문제는 남습니다.
| 교정(검교정) | 재는 자리 고정 | |
|---|---|---|
| 보는 것 | 계측기가 표준과 얼마나 어긋났나 | 우리 현장에서 누가 재도 같은 값이 나오나 |
| 하는 곳 | 외부 교정업체 | 우리 작업대 |
| 잡히는 문제 | 계측기 자체의 어긋남 | 잡는 자리·힘의 차이 |
| 값이 사람마다 다를 때 | 해결되지 않음 | 해결됨 |
차이가 생기는 자리를 찾아 하나로 고정합니다
할 일은 차이가 생기는 자리를 눈으로 찾아서 그 자리를 하나로 고정하는 것입니다. 비싼 순서가 아니라 싼 순서로 갑니다.
- 두 사람에게 따로 재게 합니다. 부품 하나를 골라, 서로 값을 모르게 하고 각자 종이에 적게 합니다. 10분이면 됩니다.
- 값이 갈리면 두 사람을 나란히 세웁니다. 재는 것을 서로 보게 합니다. 잡는 자리가 다르거나 잡는 힘이 다르거나, 둘 중 하나가 거의 항상 눈에 띕니다.
- 재는 자리를 하나로 정합니다. 말로 정하지 말고 부품 사진에 화살표를 그립니다 — "여기를 이렇게 잡고 잰다". 그 종이를 그 부품을 재는 작업대에 붙입니다.
- 정한 다음 같은 부품을 다시 재 봅니다. 값이 모이면 재는 자리가 원인이었다는 것이 확인된 것입니다.
이 확인을 여러 사람, 여러 부품으로 넓힌 것이 게이지 R&R 입니다. 이름은 거창해도 순서는 위와 같습니다.
손이 아니라 계측기가 문제인지 가려내는 법
한 사람이 같은 자리를 다섯 번 반복해서 재 봅니다. 한 사람 손인데도 값이 흔들리면 그것은 계측기 쪽입니다. 그때는 그 계측기를 수리하거나 바꾸는 것이 맞습니다.
두 가지를 더 봐 둡니다.
- 부품 모양 자체가 자리마다 두께가 다른 경우(도장·도금 두께 등)는 재는 자리를 정하는 것으로 끝나지 않습니다. 몇 군데를 재서 어느 값으로 판정할지까지 정해야 합니다.
- 확인용 부품은 잘 나온 것만 쓰면 안 됩니다. 합격선에 아슬아슬하게 걸친 것을 꼭 섞습니다. 값이 사람마다 갈리는 것은 딱 그 언저리이기 때문입니다.
오늘 할 수 있는 것
같은 부품인데 값이 다르다면 계측기부터 의심하지 말고, 어디를 어떻게 재라는 것이 정해져 있는지부터 봅니다. 정해 두지 않으면 사람 수만큼 값이 나옵니다. 오늘 할 것은 하나입니다. 지금 제일 말 많은 치수 하나를 골라 그 부품을 두 사람에게 따로 재 보게 합니다. 값이 갈리면, 고칠 자리를 이미 찾은 것입니다.