같은 부품인데 재는 사람마다 값이 다른 이유 — 계측기가 아니라 재는 자리가 정해져 있지 않아서입니다

같은 부품을 두 사람이 재면 값이 다르고, 교정을 매년 해도 값이 모이지 않는 이유를 정리했습니다. 값을 갈라놓는 것은 계측기가 아니라 잡는 자리와 힘이며, 두 사람에게 따로 재게 해 차이를 찾고 재는 자리를 사진으로 못박는 순서, 계측기 탓인지 가려내는 법까지 담았습니다.

같은 부품을 두 사람이 쟀는데 값이 다르게 나옵니다. 한 명은 합격이라 하고 한 명은 불량이라고 합니다. 노기스를 서로 바꿔서 다시 재 봐도 여전히 다르고, 교정필 스티커는 둘 다 멀쩡하게 붙어 있습니다. 그러면 "측정기를 새로 사야 하는 것 아니냐"는 말이 나옵니다.

이 글은 왜 값이 갈리는지, 교정을 매년 하는데도 왜 값이 모이지 않는지, 그 차이를 어디서 찾아 어떻게 없애는지에 대한 이야기입니다.

값을 갈라놓는 것은 계측기가 아니라 손입니다

측정값이 사람마다 다른 원인은 대부분 계측기가 아니라, 어디를 어떻게 잡고 재는지가 정해져 있지 않다는 데 있습니다. 도면에는 치수와 공차가 적혀 있지만 그 치수를 어디서 재라는 말은 없습니다. 검사기준서에도 보통 없습니다. 그러니 재는 자리는 각자 머릿속에 있습니다.

  • 한 사람은 끝에서 조금 안쪽을 잡고, 다른 사람은 가운데를 잡습니다.
  • 모따기가 있는 부품이면 날이 닿는 자리도 달라집니다.
  • 잡는 힘도 사람마다 다릅니다. 꽉 물리는 사람과 살짝 대는 사람의 값은 같을 수 없습니다.

캘리퍼 측정을 다룬 미국 교정 기관 Accredited Labs 의 글도 같은 자리를 짚습니다.

If there's one factor responsible for more caliper disagreement than all others combined, it's measurement force. — Why Your Calipers Read Differently Than Your Coworker's (And What to Do About It), Accredited Labs

검사자 아홉 명이 같은 부품을 잰 결과

국내 품질 실무자 커뮤니티에 올라온 게이지 R&R 결과가 있습니다. 제품도 하나, 계측기도 하나로 통일해 검사자 아홉 명이 쟀는데 값이 전부 달랐고, 전체 변동의 92%가 측정자에게서 나왔습니다(%AV 92.28%). 한 측정자는 모든 시료를 규격 하한 쪽 값으로만 읽었습니다. 그 사람 손에서는 좋은 것과 나쁜 것이 갈리지 않았다는 뜻입니다. 그 상태가 판정에서 어떻게 보이는지는 이렇습니다.

실제 부품 25.00(좋은 것)과 25.05(나쁜 것)를 한 측정자가 둘 다 24.98로 읽어 둘 다 합격으로 판정한 표

교정은 이 차이를 잡아 주지 않습니다

교정이란 그 계측기가 표준과 얼마나 어긋났는지를 보는 일이지, 우리 현장에서 우리 손으로 같은 값이 나오는지를 보는 일이 아닙니다. 교정 성적서에는 합격이라고 적혀 있지도 않습니다. 교정업체는 잰 값만 적어서 돌려줍니다. 교정을 빠짐없이 해도 손이 다르면 값은 그대로 갈리는 모습은 이렇습니다.

교정 관리는 전부 완료(노기스 1번·2번 교정 완료, 대장·스티커 최신)인데 두 사람의 값은 25.02 와 24.96 으로 그대로 갈리는 그림

교정과 재현성은 다른 것입니다. 둘을 같은 것으로 여기는 동안 돈은 쓰이고 문제는 남습니다.

교정(검교정) 재는 자리 고정
보는 것 계측기가 표준과 얼마나 어긋났나 우리 현장에서 누가 재도 같은 값이 나오나
하는 곳 외부 교정업체 우리 작업대
잡히는 문제 계측기 자체의 어긋남 잡는 자리·힘의 차이
값이 사람마다 다를 때 해결되지 않음 해결됨

차이가 생기는 자리를 찾아 하나로 고정합니다

할 일은 차이가 생기는 자리를 눈으로 찾아서 그 자리를 하나로 고정하는 것입니다. 비싼 순서가 아니라 싼 순서로 갑니다.

  1. 두 사람에게 따로 재게 합니다. 부품 하나를 골라, 서로 값을 모르게 하고 각자 종이에 적게 합니다. 10분이면 됩니다.
  2. 값이 갈리면 두 사람을 나란히 세웁니다. 재는 것을 서로 보게 합니다. 잡는 자리가 다르거나 잡는 힘이 다르거나, 둘 중 하나가 거의 항상 눈에 띕니다.
  3. 재는 자리를 하나로 정합니다. 말로 정하지 말고 부품 사진에 화살표를 그립니다 — "여기를 이렇게 잡고 잰다". 그 종이를 그 부품을 재는 작업대에 붙입니다.
  4. 정한 다음 같은 부품을 다시 재 봅니다. 값이 모이면 재는 자리가 원인이었다는 것이 확인된 것입니다.

이 확인을 여러 사람, 여러 부품으로 넓힌 것이 게이지 R&R 입니다. 이름은 거창해도 순서는 위와 같습니다.

손이 아니라 계측기가 문제인지 가려내는 법

한 사람이 같은 자리를 다섯 번 반복해서 재 봅니다. 한 사람 손인데도 값이 흔들리면 그것은 계측기 쪽입니다. 그때는 그 계측기를 수리하거나 바꾸는 것이 맞습니다.

두 가지를 더 봐 둡니다.

  • 부품 모양 자체가 자리마다 두께가 다른 경우(도장·도금 두께 등)는 재는 자리를 정하는 것으로 끝나지 않습니다. 몇 군데를 재서 어느 값으로 판정할지까지 정해야 합니다.
  • 확인용 부품은 잘 나온 것만 쓰면 안 됩니다. 합격선에 아슬아슬하게 걸친 것을 꼭 섞습니다. 값이 사람마다 갈리는 것은 딱 그 언저리이기 때문입니다.

오늘 할 수 있는 것

같은 부품인데 값이 다르다면 계측기부터 의심하지 말고, 어디를 어떻게 재라는 것이 정해져 있는지부터 봅니다. 정해 두지 않으면 사람 수만큼 값이 나옵니다. 오늘 할 것은 하나입니다. 지금 제일 말 많은 치수 하나를 골라 그 부품을 두 사람에게 따로 재 보게 합니다. 값이 갈리면, 고칠 자리를 이미 찾은 것입니다.